roon 인터뷰 "슈퍼휴먼 AI는 두 단계로 출시될 예정입니다."

roon은 익명의 AGI 연구원이라고 하는데, 워낙 OpenAI 및 구글 딥마인드 등 유명한 연구원들의 팔로우가 많아 샘 알트만이 아니냐는 소문이 있다.

 

룬이 올해 유독 미친 년이 될거라고 이야기를 하고 있는데 비밀 연구소에서 개발된 AGI라도 본 것이 아닐까 하는 의구심이 생긴다.

 

여하튼 룬의 인터뷰 글이 있어서 올려봅니다.

https://twitter.com/tszzl/status/1617307197788258306?s=20

https://www.return.life/p/roon-when-will-a-human-level-ai-be-built
이 블로그 글은 인공일반지능(Artificial General Intelligence, AGI)의 도래 시기와 그 영향에 대해 이야기하고 있습니다. 2020년대는 대형 언어 모델(Large Language Model, LLM) 기술의 성장 덕분에 인공지능의 발전이 전례 없이 가속화되었다는 주장으로 시작합니다. 이러한 기계들은 사람만이 해결할 수 있다고 생각되었던 다양한 과제를 수행할 수 있게 되었습니다.

이 블로그의 저자는 2027년에 디지털 세계에서, 그리고 2037년에 실세계에서 AGI가 개발될 것이라고 예측합니다. AGI의 개발자들은 역사상 가장 부유한 사람들이 될 것입니다. 그러나 이런 예측은 어렵습니다. 왜냐하면 모든 능력이 균등하게 분포되어 있지 않기 때문입니다. 예를 들어, "영어를 프랑스어로 번역"하는 일에 있어서 대부분의 대형 언어 모델은 평균적인 인간 수준을 달성할 수 있지만, 이와 같은 능력에서 인간의 99퍼센트를 능가하는 언어 모델이 필요하다면, 이는 더 흥미로운 문제가 될 것입니다.

언어 모델은 모델이 더 크고 데이터가 풍부해질수록 모든 작업에서 더욱 향상되는 것으로 보입니다. 이러한 언어 모델은 실세계의 내부 표현을 구축하며, 앞으로 5~10년 내에 거대한 모델의 깊은 훈련 과정에서 "단계 전이(phase transition)"를 겪을 가능성이 높습니다. 이는 그들을 세계에 대한 대부분의 상징적 추론 과제에서 압도적으로 이길 수 있게 만듭니다. 그러나 모든 작업이 세계 모델에서 상징적 추론 하에 해결될 수 있는 것은 아닙니다. 예를 들어, 테니스에 대해 얼마나 많이 읽더라도, 근육 섬유가 150mph의 서브를 완벽하게 상대 코트에 칠 수 있도록 가르쳐 줄 수는 없습니다.

저자는 매우 강력한 언어 모델이 실세계에서 빠른 반복 학습을 가능하게 하는학습 알고리즘을 재귀적으로 작성할 수 있기를 희망하고 있습니다. 이렇게 되면 언어 세계에서 사용할 수 있는 데이터의 양보다 훨씬 작은 데이터 볼륨으로도 작업할 수 있게 될 것입니다. 이러한 "실세계 완전성" 이정표는 더 먼 미래에 있을 것으로 예상하며, 이러한 예측에 대한 가장 큰 위험 요소는 데이터의 가용성입니다. 인터넷에서 모든 유용한 언어 데이터를 소진하고 더 이상 생성하는 것이 불가능하다면, 모든 예측은 무용지물이 될 것입니다.

기계가 인간 노동의 성능을 맞추는 것과 경제적으로 그 성능을 달성하는 것은 다른 문제입니다. 의외로 고급직, 창의적인 직업이 단순 노동자보다 빠르게 대체될 것입니다. 소프트웨어 개발자의 효율성을 높이기 위해 GPU를 과도하게 사용하는 것은 매우 가치 있는 일이지만, 곧바로 해저 용접과 같은 작업을 수행하는 AI를 만드는 것은 효율적이지 않을 수 있습니다.

첫 몇 년 동안에는 고부가가치 지식노동 부문이 엄청나게 효율적으로 변하면서 인류, 특히 고급 산업에 중점을 둔 국가들의 경제가 크게 번영할 것으로 저자는 예상합니다. 그 시기에 대량의 일자리가 손실될 것이라고는 생각하지 않습니다. 또한, 최고의 모델을 보유한 회사는 매우 복잡한 공학 모델을 스케일링하고 가장 똑똑한 모델이 사람들이 그들을 연구하고 개선할 수 있는 제안을 제공할 것으로 보이기 때문에 엄청나고 복합적인 기술적 우위를 보유하게 될 것입니다. 이들은 역사상 가장 부유한 사람들이 될 것입니다.