선도적인 AI 모델이 곧 100억 달러에 달할 것이라고 믿는 Anthropic CEO

https://the-decoder.com/anthropic-ceo-believes-leading-ai-models-will-soon-cost-up-to-ten-billion-dollars/
https://www.nytimes.com/2024/04/12/podcasts/transcript-ezra-klein-interviews-dario-amodei.html

AI의 효율성이 높아지고 있다고요? 일부 분야에서는 그럴 수도 있습니다. 그러나 훈련 노력과 비용은 계속 폭발적으로 증가할 것이라고 Anthropic의 CEO Dario Amodei는 말합니다.

Anthropic은 Claude 3 Opus를 통해 GPT-4를 무너뜨린 최초의 AI 모델 개발사가 되었습니다. 아모데이는 에즈라 클라인과의 인터뷰에서 AI 개발의 가까운 미래와 먼 미래에 대해 이야기합니다.

그는 향후 몇 년 안에 대규모 언어 모델 학습 비용이 급격히 상승할 것으로 예상합니다. 오늘날의 모델 비용은 1억 달러 정도이지만, 가까운 미래에 그 비용이 10억 달러에 이를 것으로 예상합니다.

"오늘날의 모델 훈련 비용은 1억 달러 정도이며, 여기에 2~3배를 더하거나 뺀 금액입니다. 지금 훈련 중이고 올해 말이나 내년 초에 출시될 모델들은 10억 달러에 가까운 비용이 들 것입니다. 이미 그런 일이 일어나고 있습니다. 그리고 2025년과 2026년에는 50억 달러 또는 100억 달러에 가까워질 것으로 예상합니다."라고 아모데이는 말합니다.

Anthropic의 CEO는 그 이유를 컴퓨팅 성능과 데이터가 AI 시스템에 더 많이 투입될수록 더 강력해진다는 이른바 스케일링 법칙에서 찾습니다. 어떤 사람들은 이 관계가 예측 가능하고 기하급수적이라고 말합니다.

아모데이는 스케일링 법칙의 예측이 정확하다면 2~5년 안에 AI 모델이 너무 강력해져 더 이상 인간의 도움이 필요하지 않거나 통제할 수 없게 될 것이라고 믿습니다. 그는 공상 과학 소설에서 상상하는 종류의 시스템이 20년이나 40년이 아니라 2~5년 안에 등장할 것으로 보고 있습니다.

속도를 늦추면 안전에 위험이 될 수 있습니다

아모데이는 AI 개발 속도를 늦추는 것이 해결책이라고 생각하지 않습니다. 시스템의 안전을 보장하려면 시스템을 확장하고 더 많은 연구를 진행해야 합니다. 그래야만 잠재적인 위협을 조기에 파악하고 대응책을 개발할 수 있다고 아모데이는 주장합니다. 그는 개발을 중단하는 것은 현실적이지도 않고 바람직하지도 않다고 생각합니다.

동시에 그는 선도적인 AI 기업의 책임을 강조합니다. 모델의 기능이 향상될수록 민간 기업이 손에 쥔 힘도 커지기 때문입니다. 아모데이는 몇 년 안에 사회가 중앙 시스템에 대한 통제권을 민주화할 방법을 찾아야 할 것이라고 믿습니다.

아모데이는 AI가 생물학 무기 개발이나 국가 허위 정보 캠페인에 사용되는 등 미래에 잠재적인 위험이 있을 것으로 보고 있습니다. AI 시스템은 논증에서 높은 수준의 설득력을 제공함으로써 이러한 분야에서 국가 행위자의 역량을 크게 향상시킬 수 있을 것입니다. 이 이론을 뒷받침하는 첫 번째 연구 결과가 있습니다.

Anthropic 내부에서 AI 위험을 평가할 때 사용하는 1~4단계 척도 중 아모데이는 이러한 시나리오를 레벨 3에 해당하며, 빠르면 올해 또는 내년에 발생할 수 있다고 보고 있습니다.

가장 높은 위험 수준인 레벨 4는 2025년에서 2028년 사이에 도달할 것으로 예상합니다. 그 시점에는 AI 시스템이 복제하고 진화할 수 있을 것으로 예상합니다. 이는 완전히 새로운 통제 문제를 야기하고 잠재적으로 실존적 위험을 초래할 수 있습니다.

아모데이는 이러한 극단적인 시나리오를 넘어서는 사회적 문제도 예상하고 있습니다. 예를 들어, AI 데이터 센터로 인한 에너지 소비의 급격한 증가를 배제할 수 없습니다. AI 시스템이 점점 더 많은 전문직 집단의 인지 작업을 대신하게 되면서 노동 시장에 미치는 파괴적인 영향도 심각한 문제입니다.

이러한 도전에도 불구하고 Anthropic의 CEO는 기회가 위험보다 크다고 믿습니다. AI 시스템은 향후 의료, 교육, 에너지 등의 분야에서 획기적인 발전을 이룰 수 있습니다. 위험을 관리하면서 이러한 잠재력을 활용할 수 있는 방법을 찾는 것이 중요합니다.

다리오 아모데이는 OpenAI에서 수년간 선임 연구원으로 근무했습니다. 2년 동안 그는 OpenAI의 AI 안전 팀을 이끌었습니다. 그는 여동생인 다니엘라 아모데이와 함께 OpenAI의 GPT-3 개발에 참여했습니다. 두 사람은 거의 6년 동안 OpenAI의 연구팀에서 함께 일했으며, 이후 Anthropic을 설립하여 AI 안전 연구에 집중하고 있습니다.