일부 실리콘 밸리의 거대 기업과 국가 안보 전문가들이 패턴 증류와 관련된 중국 기업에 대한 조치를 요구하고 있는 가운데, 유명한 스타트업 액셀러레이터인 Y Combinator의 CEO인 Garry Tan은 덜 걱정합니다.
그는 Y Combinator의 연례 데모 데이에서 증류에 관해 “나는 아무것도 하지 않을 것”이라고 CNBC에 말했습니다. “우리는 미국식 증류 체제가 있어야 한다고 주장할 수 있습니다.”
증류는 더 유능한 AI 모델의 결과를 사용하여 더 작거나 덜 유능한 AI 모델을 때로는 불법적으로 훈련시키는 프로세스입니다. 이는 OpenAI와 Anthropic과 같은 프론티어 모델 개발자들의 주요 관심사였습니다. Anthropic은 Moonshot AI, DeepSeek 및 MiniMax와 같은 중국 회사를 이러한 관행으로 비난했으며 OpenAI는 DeepSeek V3 및 R1 모델 아키텍처가 자체 GPT-4 및 GPT-4o 모델에서 추출되었다고 믿습니다.
이런 가운데 미국 국가안보국(NSA), 사이버보안 및 인프라 보안국, 연방수사국(FBI)은 화요일 이 문제에 대한 공식 사이버보안 경고를 발표했다.
비평가들은 이러한 AI 모델을 훈련하는 데 사용되는 데이터의 대부분이 저작권법의 적용을 받을 수 있기 때문에 Anthropic과 OpenAI의 증류에 대한 불만을 일축했습니다. Tan은 이를 지적했습니다. 이 논란은 현재 미국에서 법적 공방의 대상이 되고 있습니다. 뉴욕타임스는 2023년 OpenAI와 Microsoft를 모델 훈련 데이터에 기사를 무단으로 사용한 혐의로 고소했고, 서적 저자 컨소시엄은 2025년 유사한 주장에 대해 Anthropic과 소송을 합의했습니다.
그러나 Tan은 프론티어 모델이 비즈니스 모델의 실행 가능성을 유지할 수 있는 가격 프리미엄을 유지하는 한 규제 당국이 증류를 줄이는 것보다 개방형 모델과 프론티어 모델 간의 균형을 만드는 데 더 집중해야 한다고 믿습니다.
“이것은 실제로 이상적인 경우입니다. 사람들에게 자유와 접근성을 제공하는 개방형 모델을 원합니다”라고 그는 설명했습니다. “내가 규제자라면 그렇게 하겠다.”
Tan은 이것이 “줄타기”라고 부르며 균형을 맞추기가 어렵다는 것을 인정했습니다. 그러나 그는 이것이 추구할 가치가 있는 균형이라고 말했습니다. “가능한 최상의 결과로 이어질 수 있다”고 말했습니다.
Tan은 또한 인류학자 Jacob Coxon의 사임을 둘러싼 최근 헤드라인이 AI의 실존적 위험에 대한 대중의 두려움을 기록하게 만드는 AI 안전에 대한 보다 좁은 접근 방식을 장려합니다.
“우리는 공상과학 소설이 아닌 과학적 사실에 초점을 맞춰야 합니다.”라고 그는 말했습니다. “우리는 지금 일어나고 있는 일에 대응해야 합니다. 보안 침해가 발생하고 요원이 우리 인프라를 장악하려는 공동 시도가 있었다면 어떻게 해야 할까요?”
사이버 보안은 Tan이 임박하다고 보는 위험입니다. 그리고 단기적이고 실존적인 다른 위험도 있습니다. 예를 들어, 목요일에 Anthropic은 위험한 병원체에 대한 연구를 위해 이 모델을 사용하는 불특정 외국 과학자 5명에 대한 Claude의 접근을 차단했다고 보고했습니다. Anthropic은 이 연구자들이 생물학적 무기를 만들기 위해 비밀리에 Claude를 사용하고 있다는 것을 두려워했습니다.
그러나 다른 위험에는 더 오랜 시간이 걸립니다. Tan은 AI 관련 일자리 손실과 경제 변화가 즉각적인 영향을 미치지 않을 것이라고 믿습니다. 오히려 그는 시간이 지남에 따라 사람들이 반복적인 작업을 자동화하고 창의적인 활동에 더 많은 근무 시간을 보낼 것이라고 예측합니다.
“이것이 실제로 사회에 스며들려면 수십 년이 걸릴 것이며 그것은 나쁜 것이 아닙니다”라고 그는 말했습니다.
긴 일정에도 불구하고 Y Combinator가 현재 AI에 투자하는 것을 막지는 못했습니다. 데모데이에 선보인 196개 스타트업 중 149개가 머신러닝 및 AI 프로젝트로 분류됐다.
