세인레그 SXSW2024 전체 인터뷰 스크립트

리드 알베르가티: (소개) ... 저는 세마포의 기술 편집자인 리드 알베르가티입니다. 오늘은 Google DeepMind의 최고 AGI 과학자이자 공동 창립자인 셰인 레그와 함께합니다. 그는 인공 일반 지능(AGI)이라는 용어를 대중화시킨 인물입니다.

 

... 당신은 런던에서 계산 신경 과학을 공부하던 시절 데미스 허사비스를 만나 DeepMind를 공동 창립했습니다. 계산 신경 과학이 무엇이고, 어떻게 지금 하고 있는 일로 이어졌는지 설명해 주시겠어요?

 

셰인 레그: 사실 저는 계산 신경 과학자가 아니었고, 그 분야에서 일한 적도 없습니다. ... 제가 스위스에서 인공 지능에 대한 박사 과정을 밟고 있을 때 계산 신경 과학에 대해 조금씩 읽기 시작했습니다. ... 사람들이 계산 신경 과학에서 얻은 흥미로운 구조적 통찰력이 있다는 것을 알게 되었고, 머신 러닝에서 봤던 것과 유사한 알고리즘들이 있다는 것을 알았습니다. ... 예를 들어, 시각 피질 내에서 점점 더 추상화되는 계층적 표현이 있다는 것을 알 수 있었는데, 저는 이것이 매우 흥미롭다고 생각했습니다. 또한 뇌에서 강화 학습의 존재를 발견했습니다. ... 편도체와 기저핵 등의 영역에서 도파민 수치의 변화를 볼 수 있는데, 이는 강화 학습의 시간차 오류에 해당합니다.

저는 머신 러닝 알고리즘과 뇌의 구조적 측면 사이의 유사점을 보고 AGI에 관심이 있다면 이것에 대해 알아야 한다고 생각했습니다. ... 그래서 저는 런던의 Gatsby Unit에 갔습니다. ... 거기에는 머신 러닝, 계산 신경 과학, 이론 신경 과학 분야의 세계적인 전문가들이 모두 같은 연구소에서 일하고 있었습니다. 저는 피터 다얀 밑에서 일했는데, 그는 머신 러닝의 강화 학습 알고리즘과 뇌의 강화 학습 사이의 연관성을 처음으로 연구한 사람 중 한 명이었습니다. 데미스도 피터 다얀 밑에서 박사후 과정을 밟았다는 것을 알게 되었습니다.

 

리드 알베르가티: 그래서 2010년에 DeepMind를 설립하기로 결정했습니다. 그 당시의 생각과 목표는 무엇이었나요?

 

셰인 레그: 우리는 인공 일반 지능을 향한 진전을 이룰 수 있는 조건이 무르익었다고 믿었습니다. ... 제가 말하는 AGI는 사람이 일반적으로 할 수 있는 종류의 인지 작업을 수행할 수 있고, 잠재적으로 더 많은 것을 할 수 있는 인공 시스템을 의미합니다.

... 우리는 몇 가지 핵심 요소가 함께 모이고 있다고 생각했습니다. 컴퓨팅 파워가 기하급수적으로 증가하고 있었고, 딥 러닝이 등장하고 있었습니다. ... 우리는 딥 러닝이 유망하다고 생각했습니다. ... 뇌의 피질과 유사한 깊은 구조를 가지고 있었기 때문입니다. ... 우리는 병렬 컴퓨팅과 GPU를 활용하는 새로운 알고리즘에 흥분했고, 신경 과학이 뇌에 대한 흥미로운 통찰력을 계속 제공할 것이라고 생각했습니다. 또한 세상에는 많은 데이터가 있고, 앞으로 더 많은 데이터가 생성될 것이라고 믿었습니다.

이러한 요소들이 함께 모여 AGI를 만들 수 있을 것이라고 생각했고, 약 20년 정도 걸릴 것이라고 예상했습니다.

 

리드 알베르가티: 당신은 2028년까지 AGI가 개발될 확률을 50%로 예측했습니다. 아직도 그 예측을 고수하시나요?

 

셰인 레그: 네. ... 사실 처음으로 그 예측이 맞다고 생각한 것은 2001년 레이 커즈와일의 책 '특이점이 온다'를 읽고 난 후였습니다. ... 저는 스스로 분석을 해보고, 그가 옳을 가능성이 높으며, 2028년까지 AGI가 개발될 확률이 50%라는 결론을 내렸습니다. ... 몇 년 후 블로그에 처음으로 공개적인 예측을 했는데, 2009년의 기록을 보면 2028년까지 AGI가 개발될 확률이 50%라고 했습니다. ...

우리는 분명히 AGI가 가능하다고 믿는 시기에 접어들고 있습니다. 앞으로 몇 년 안에 일어날 수도 있지만, 어떤 장애물 때문에 시간이 더 걸릴 수도 있습니다.

 

리드 알베르가티: 당신은 AGI라는 용어를 처음 사용했다고 생각했지만, 알고 보니 다른 사람이 먼저 사용했더군요. 하지만 당신은 AGI를 대중화시켰습니다. 요즘 사람들은 AGI를 어떻게 정의해야 하는지, AGI가 무엇인지에 대해 논쟁을 벌이고 있습니다. 당신은 AGI에 대해 5단계로 나누어 설명했는데, 아직도 AGI가 이것을 설명하는 가장 좋은 용어라고 생각하시나요?

 

셰인 레그: ... 저는 2001년경 뉴욕에서 빙 고델 밑에서 일하고 있었는데, 그가 AI에 대한 책을 쓰려고 했습니다. ... 그는 바둑이나 포커를 두는 것과 같은 좁고 구체적인 AI 알고리즘에 대한 책이 아니라, 사람처럼 많은 것을 할 수 있는 진정한 일반적인 시스템에 대한 책을 쓰고 싶어 했습니다. ... 그는 책 제목을 '진짜 AI'라고 하려고 했는데, 저는 '진짜 AI'라는 표현은 좁은 AI 시스템을 연구하는 다른 사람들에게 무례하다고 말렸습니다. ... 당신이 정말로 일반적인 시스템에 관심이 있다면, '일반'이라는 단어를 넣어서 '인공 일반 지능(AGI)'이라고 부르는 것이 좋겠다고 제안했습니다. ...

그래서 우리는 AGI라는 용어가 마음에 들었고, 그는 책 제목으로 사용했습니다. 그런 다음 저와 피터 보스, 페이 페이 웡 등 우리가 알고 있는 많은 사람들이 온라인 포럼에서 그 용어를 사용하기 시작했고, 거기서부터 널리 퍼졌습니다. 그런데 4년쯤 지나서 마크 구브루드라는 사람이 나타나서 1997년 나노 기술 및 보안에 관한 논문에서 그 용어를 사용했다고 말했습니다. ...

결국 우리가 처음으로 그 용어를 사용한 것은 아니었지만, 우리가 논문을 쓰기 전까지는 인기를 얻지 못했습니다. ...

하지만 제가 그 용어를 생각해 냈을 때는 정확한 정의가 없었습니다. ... 그냥 연구 분야를 나타내는 표시였습니다. ... 구체적인 좁은 시스템보다는 매우 일반적인 시스템을 만들고자 하는 일반적인 열망 같은 것이었습니다. ... 지금은 논문에서 5단계로 나누어 설명했지만, 용어 자체는 '사람이 일반적으로 할 수 있는 종류의 인지 작업을 수행할 수 있고, 잠재적으로 더 많은 것을 할 수 있는 시스템'이라고 정의합니다. ... 사람들은 사람이 할 수 있는 일을 직관적으로 이해합니다. 컴퓨터 프로그래밍, 시 쓰기, 문제 해결 등 사람이 할 수 있는 모든 종류의 일을 할 수 있습니다. ... 그렇다면 컴퓨터 시스템이 적어도 그 정도의 폭과 능력을 가질 수 있을까요? ... 얼마 전까지만 해도 사람들은 AGI가 불가능하다고 생각했습니다. 하지만 최근 몇 년 동안 파운데이션 모델이 점점 더 뛰어난 능력을 갖추게 되면서 대부분의 사람들이 AGI가 실현 가능하다는 것을 받아들이고 있습니다.

 

리드 알베르가티: 당신의 논문에 나온 5단계 중에서 현재 우리는 어느 단계에 와 있나요?

 

셰인 레그: ... 아직 일반적인 시스템을 위한 '유능한' 수준에 도달하지 못했습니다. ... 하지만 AGI의 약칭으로 사용하는 단계는 3단계입니다. 기본적으로 일반적인 사람만큼 유능한 수준입니다. ...

문제는 기존 시스템이 사람이 할 수 있는 많은 인지 작업을 수행할 수 있지만, 여전히 특정한 약점을 가지고 있다는 것입니다. ... 예를 들어, 비디오나 이미지를 이해하는 데 있어서 사람만큼 뛰어나지는 않습니다. ... 또한 신중하게 추론하거나 계획하는 데 있어서도 사람만큼 뛰어나지 않습니다. ... 망상과 사실성에도 문제가 있습니다. ... 기억력과 기타 여러 가지 문제도 있습니다. ... 이러한 모든 것들이 개선되고 있지만, 아직은 그 수준에 도달하지 못했습니다. ...

하지만 이것이 근본적인 한계라고 생각하지는 않습니다.

 

리드 알베르가티: 이러한 시스템은 훨씬 더 커지고, 더 많은 데이터를 사용하며, 더 많은 매개변수를 가지게 되었습니다. 그리고 그에 따라 훨씬 더 뛰어난 능력을 갖추게 되었습니다. 그렇다면 AGI를 향한 선형적인 경로가 있을까요? 아니면 뇌와 비슷하게 생각한다면, 아직 만들어야 할 부분이 있을까요?

 

셰인 레그: ... 사람마다 의견이 다릅니다. ... 저는 둘 다라고 생각합니다. 기존 파운데이션 모델은 진정으로 유능한 에이전트를 만들기 위해 특정 방식으로 개선되어야 합니다. ... 망상을 줄이고, 계획을 개선하고, 기타 여러 가지를 개선해야 합니다. 저는 구조적인 측면도 중요하다고 생각합니다. ...

심리학에서 시스템 1과 시스템 2라는 개념을 알고 있다면, 시스템 1은 즉흥적으로 떠오르는 생각이고, 시스템 2는 다양한 옵션과 가능성을 생각하는 내면의 정신적 대화입니다. ... 저는 파운데이션 모델과 같은 LLM을 시스템 1과 같다고 생각합니다. ... 모델에서 샘플링을 하고, 샘플링된 첫 번째 것이 출력되는 것입니다. ... 이것은 상당히 좋을 수 있지만, 정말로 흥미로운 에이전트를 만들기 위해서는 시스템 2와 같은 것이 필요하다고 생각합니다. 시스템이 실제로 무언가를 계획하고, 추론하고, 단계별로 진행하고, 자신의 계획을 비판하고, 무언가를 하고, 문제가 발생했음을 관찰하고, 다시 계획하고, 계획을 조정하는 등의 내면의 독백이 필요합니다. ... 우리는 모두 그렇게 하고 있고, 저는 이것이 가능할 것이라고 생각하지만, 이것은 우리가 파운데이션 모델을 가져와서 시스템 2와 같은 일을 할 수 있도록 확장해야 하는 종류의 일의 예입니다. ... 그리고 아마도 그 위에 일종의 강화 학습을 수행하여 목표를 설정하고 달성하며, 그러한 목표를 달성하는 행동을 강화하고 학습하는 훨씬 더 에이전트적인 시스템이 되도록 해야 할 것입니다. ... 저는 이 모든 것이 가능하다고 생각하지만, 아직은 그 수준에 도달하지 못했습니다.

 

리드 알베르가티: 이러한 목표를 향해 나아가면서 당신은 안전에 대한 선도적인 사상가 중 한 명이었고, 궁극적으로 AGI를 만드는 데 따르는 위험성에 대해 경고해 왔습니다. 지난 1~2년 동안 우리가 이러한 것들이 할 수 있는 일을 더 큰 규모로 보아 왔는데, 당신의 걱정은 더 커졌나요, 아니면 줄어들었나요?

 

셰인 레그: ... 제 걱정이 늘었는지 줄었는지 묻는다면, ... 아마도 조금 줄었을 것입니다. ... 사실 저는 불확실성을 가지고 있습니다. 그것이 핵심입니다. ... 저는 인공 지능, 인공 일반 지능이 가능하다고 믿습니다. ... 그리고 저는 그것이 곧 올 것이라고 생각합니다. 그리고 그것이 오면 사회에 엄청난 변화를 가져올 것이라고 생각합니다. ...

인간의 지능이 세상을 엄청나게 변화시킨 것처럼 말입니다. 우리 주변의 모든 것, 직물, 조명, 벽, 제가 사용하는 언어, 마이크, 모든 것이 인간 지능의 산물입니다. 그러니 머신 지능을 혼합하면 어떤 일이 벌어질지 상상해 보세요. ...

하지만 그렇게 심오하고 깊은 변화가 세상을 변화시킬 때, 그 이후에 정확히 어떤 일이 일어날지 이해하는 데 있어서 어느 정도 겸손해야 한다고 생각합니다. ... 모든 종류의 환상적인 가능성이 열리겠지만, ... 모든 강력한 기술과 마찬가지로 다양한 종류의 문제가 있을 수 있습니다. ... 오용의 문제가 있을 수 있습니다. ... 사람들이 AGI, 유능한 AGI 시스템을 사용하여 나쁜 짓을 할 수 있습니다. ... 새로운 병원균을 만들거나, 사기, 해킹 등 모든 종류의 나쁜 짓을 할 수 있습니다. ... 목표 불일치 문제도 있을 수 있습니다. ... 사람이 의도적으로 나쁜 짓을 하려는 것이 아니라, 시스템을 잘못 만들어서 원하는 대로 작동하지 않거나, 다른 방식으로 작동하여 나쁜 결과를 초래할 수 있습니다. ...

그리고 또 다른 범주의 문제는, ... 시스템으로 좋은 일을 하려고 하고, 원하는 대로 시스템을 작동시키더라도, 고급 기술을 잠재적으로 엄청난 규모로 세계에 배포할 때, 현실 세계는 매우 복잡한 곳이고, 이 기술이 대규모로 세계와 상호 작용하기 시작할 때 어떤 결과가 나올지 항상 예측할 수는 없다는 것입니다. ... 사회 기술적 문제가 있을 수 있습니다.

 

리드 알베르가티: AI 안전에 대한 정의가 확장되어 편향, ... 등 모든 종류의 다른 것들을 포함하게 되었습니다. ... Google DeepMind, 당신이 말하는 Google DeepMind Gemini와 관련하여 최근에 있었던 논란에 대해 잘 알고 계실 겁니다. ... 백인에 대한 그림을 만들거나 역사적으로 부정확한 이미지를 만드는 것을 거부하는 문제였습니다. ...

하지만 제가 더 궁금한 것은 이것이 이러한 모델의 한계에 대해 무엇을 말해주는가 하는 것입니다. 그 근본적인 기술적 과제는 무엇일까요?

 

셰인 레그: 기술적인 과제도 있지만, ... 철학적이고 윤리적인 과제도 있습니다. ... 우리는 기술적인 과제가 있었습니다. ... 우리는 모델이 다양한 결과를 보여주도록 장려하고 싶었고, 대부분의 경우에는 그것이 매우 적절합니다. ... 하지만 문제는 우리가 사용한 기술 중 하나가 너무 무딘 것이어서 너무 멀리 나아갔다는 것입니다. ... 특정 맥락에서는 다양성을 원하지 않습니다. ... 그래서 그런 종류의 문제가 발생했고, ... 우리는 그것을 막아야 했고, 지금은 그 문제를 해결하고 있습니다. ...

하지만 이런 종류의 문제는 ... 해결되더라도, 더 깊은 수준에서 이러한 종류의 과제 중 일부는 이 분야에서 활동하는 모든 사람에게 남아 있을 것이라고 생각합니다. 인간의 윤리, 규범, 가치, 도덕, 문화 등의 복잡성과 미묘함 때문입니다.

 

리드 알베르가티: 하지만 동시에 안전에 대해 생각하는 사람들이 더 많아졌습니다. ... 그것은 매우 인기 있는 ... 직업이 되었습니다.

... 우리는 오랫동안 큰 문제가 있었습니다. 사람들이 AGI가 일어날 것이라고 믿지 않았기 때문에 AGI 안전에 대해 연구하려고 하지 않았습니다. ... 저는 사람들이 AGI가 분명히 강력해지기 전에 AGI 안전에 대해 연구하기를 원했지만, 많은 사람들이 그렇게 하고 싶어하지 않았습니다. ... 적어도 이제는 그런 주장을 할 필요가 없어졌습니다.

 

셰인 레그: 그렇습니다. ... 하지만 동시에 일부 사람들이 말하는 '레이스 다이내믹스'가 있습니다. ... 기업 간의 경쟁이 있습니다. ... 이러한 기업 중 다수에게 이것은 매우 중요한 임무이며, ... 이 분야에서 성공해야 합니다. 그래서 ... 능력을 향상시키고, ... 빠르게 해야 한다는 압박이 많습니다. 그래서 이것은 문제가 될 수 있습니다. ...

리드 알베르가티: 우리는 또한 AI 안전에 대한 정의가 확장되어 편향, ... 등 모든 종류의 다른 것들을 포함하게 되었습니다. ... 역사적으로 AI 윤리학자와 AGI 안전 그룹이라는 두 가지 매우 다른 집단이 있었습니다. ... AI 윤리학자들은 ... 현재 존재하는 알고리즘과 그 알고리즘의 편향성, ... 법적 절차나 기타 용도로 사용되는지 여부 등에 대해 매우 우려했습니다. ... AGI 안전 연구자들은 ... 미래에 초지능 시스템이 생기면 큰 문제가 발생할 수 있다고 말했습니다. 그리고 그들은 서로 다른 세상에 존재했습니다.

하지만 최근 몇 년 동안, 특히 대규모 언어 모델의 부상으로 이 두 세계가 충돌하기 시작했습니다. ... 왜냐하면 강력한 파운데이션 모델은 일종의 인공 일반 지능의 기반이 될 가능성이 높고, 인공 일반 지능의 속성을 일부 가지고 있지만, 동시에 현재의 기술이기 때문입니다. 그래서 이제 AI 윤리학자와 AGI 안전 연구자들이 ... 같은 공간을 차지하고 있습니다. ... 역사적으로는 매우 달랐던 두 세계가 ... 하나로 합쳐지고 있습니다.

 

리드 알베르가티: ... 저는 이러한 파운데이션 모델에 대한 큰 논란 중 하나가 창작 산업에 미치는 영향이라고 생각합니다. ... 할리우드 파업과 ... 모든 종류의 ... 토론에서 그것이 언급되는 것을 보았습니다. ...

이것이 창작 세계에 어떤 영향을 미칠 것이라고 생각하시나요? 창작자들에게 좋은 일일까요, 아니면 그 문화적 측면에 대한 위협일까요?

 

셰인 레그: 저는 이것이 변화의 힘이라고 생각합니다. 그것이 생각하는 방식입니다. 훨씬 더 빠르고 훨씬 쉽게 할 수 있는 일이 생길 것입니다. ... 하지만 그것은 두 가지 효과를 가져옵니다. 하나는 그것을 하기 위해 더 이상 많은 사람이 필요하지 않을 수 있다는 것입니다. ... 이것은 고용에 영향을 미칠 수 있습니다. 반면에, 프로젝트로서 그것을 할 수 있는 사람의 수가 극적으로 증가했습니다. ... 이전에는 사운드 엔지니어링이나 기타 작업을 하기 위해 20명의 팀이 필요했지만, 이제는 강력한 사운드 엔지니어링 알고리즘만 있으면 ... 길 건너편에 사는 사람이 ... 이전에는 많은 사람들이 필요했던 사운드 엔지니어링 마법을 가진 영화를 제작할 수 있습니다. ...

그래서 저는 이것이 어떤 면에서는 매우 해방적이라고 생각합니다. 강력한 도구와 기술에 대한 접근성을 민주화하고, ... 그 자체로 모든 종류의 창의적인 표현을 촉발할 수 있습니다. ... 어쩌면 길 건너편에 사는 그 여성이 ... 적절한 기술과 도구만 있었다면 훌륭한 영화 제작자가 되었을 수도 있습니다. 하지만 그럴 기회가 없었을 뿐입니다. ...

그래서 저는 이것이 변화의 힘이며, 많은 새로운 가능성을 열어준다고 생각합니다. ... 어떤 것들은 ... 더 이상 같은 정도로 필요하지 않을 수도 있지만, ... 수많은 새로운 기회가 생길 것입니다. 이전에는 매우 어렵거나 비쌌던 것들이 이제는 쉬워지고, ... 이전에는 불가능했던 것들도 가능해질 것입니다. ...

컴퓨터 그래픽과 영화가 등장하기 전에는 할 수 없었던 일들이 많았습니다. ... 하지만 이제는 할 수 있고, 미래에는 ... 이러한 아름다운 영화 클립 등을 생성할 수 있는 모델을 통해 훨씬 더 접근하기 쉬워질 것입니다. ... 어쩌면 ... 다시 말하지만, 길 건너편에 사는 그 여성이 ... 수백 명의 사람들의 도움 없이도 ... 스타워즈 수준의 ... 영화를 제작할 수 있을지도 모릅니다. 그래서 저는 이것이 매우 해방적이라고 생각합니다.

 

리드 알베르가티: 낙관적인 관점이네요. 마음에 듭니다. ...

... 당신은 알파폴드와 그래프캐스트, ... 등 이러한 거대한 돌파구에 대해서도 언급했습니다. ... 그중에서도 알파폴드가 저에게는 ... 눈에 띄었습니다. ... 알파폴드에 대해 간략하게 설명해 주시겠어요? ...

 

셰인 레그: 물론입니다. 몇 가지 다른 것들도 언급하는 것이 좋을 것 같습니다. ... 사람들이 우리가 할 수 있는 다른 종류의 일들을 이해하는 데 도움이 될 것 같습니다.

알파폴드는 ... 계산 생물학의 오랜 난제였습니다. ... 기본적으로 인체는 대부분 단백질로 구성되어 있습니다. 살아있는 유기체의 많은 부분이 그렇습니다. ... 그리고 단백질은 분자이고, 분자의 다른 원자들은 서로 끌어당기거나 밀어냅니다. 그래서 분자는 단순한 선형 사슬이 아니라 3차원 모양으로 접힙니다. ... 이제 3차원 물체가 됩니다. ... 그리고 그 모양은 기능에 매우 중요합니다. ... 때로는 실린더, 차축, 심지어 코르크 마개와 같은 모양이 만들어집니다. 이런 것들로 작은 모터를 만들 수 있고, 분리 칸막이를 만들 수 있고, ... 물질을 담을 수 있는 구체를 만들 수 있습니다. ...

그래서 생물학적 시스템에서 무슨 일이 일어나고 있는지 이해하려면 단백질의 모양을 아는 것이 매우 중요합니다. ... 이전에는 단백질 하나의 모양을 찾는 데 20만 달러와 박사 학위에 해당하는 연구가 필요했습니다. 하지만 문제는 단백질이 수억 개나 있다는 것입니다. ...

그래서 목표는 ... 분자를 입력하면 모양을 알려주는 알고리즘을 만드는 것이었습니다. ... 사람들이 수십 년 동안 이것을 하려고 노력했고, ... 우리는 팀을 구성하여 약 3년 만에 해냈습니다. ... 그리고 나서 우리는 과학에 알려진 모든 단백질을 가져와서 모두 접고, ... 모두 공개했습니다. ... 그리고 이제는 생물학에서 모든 종류의 놀라운 연구를 가능하게 하고 있습니다. ... 사람들은 말라리아와 같은 질병에 대한 새로운 종류의 더 효과적인 백신, ... 희귀 질환에 대한 새로운 종류의 치료법 등을 연구하고 있습니다. ... 우리는 플라스틱을 소화하고 ... 재료의 재활용을 개선할 수 있는 효소를 만들고 있습니다. ...

그래서 이것은 엄청난 범위의 것들을 열어주고 있고, 의학의 모든 종류의 것들을 극적으로 개선할 것입니다. 사실 우리는 ... Isomorphic Labs라는 회사를 분사했습니다. ... 그들은 알파폴드를 기반으로 한 고급 기술을 사용하여 전체 신약 개발 파이프라인을 재구성하고 있습니다. ...

그리고 다른 응용 분야도 많습니다. 날씨 예측, ... 핵융합에서 플라스마 제어, ... 청정 에너지, ... 새로운 종류의 재료 발견, ... 새로운 종류의 결정 구조, ... 양자 화학 연구, ... 등등. ... 현재 응용 분야가 너무 많습니다. 이 분야에서 일하기에 정말 놀라운 시기입니다. ... 단백질이나 재료 과학, ... 에 관한 것만이 아닙니다. 다양한 응용 분야가 있습니다. ...

 

리드 알베르가티: ... 저는 AI 신약 발견을 하는 바이오 기술 회사에서 일하는 사람을 만난 적이 있습니다. ... 그들이 어떻게 일하는지 궁금했는데, ... 노트북을 열어보니 대시보드에 알파폴드 2를 사용하고 있었습니다. ... 아마도 알파폴드 3도 곧 나올 겁니다. ... 그들은 ... 기본적으로 수천 가지의 가능한 약물을 만들어내고 ... 중국에 있는 실험실로 보내서 합성하고 테스트하고 있었습니다. ... 이것은 연구 과정을 며칠, 몇 주, 몇 달이 아니라 ... 수백 년 단위로 단축합니다. ...

그래서 이러한 것들을 기반으로 암을 치료할 수 있을지도 모릅니다. ...

 

셰인 레그: ... 이러한 단백질의 모양을 보고 3차원으로 모델링하여 서로 어떻게 상호 작용하는지 알아내는 것은 분명히 매우 도움이 됩니다. 이것은 엄청난 발전입니다. 하지만 이 분야에는 다른 것들도 있습니다. ... 당신은 반대 방향으로 갈 수도 있습니다. ... '여기에 어떤 질병에서 일어나고 있는 단백질이 있습니다. ... 특정 모양과 특정 기능을 가진 단백질이 필요합니다. 왜냐하면 이것은 질병 치료에 도움이 될 것이기 때문입니다. ... 어떤 단백질을 만들어야 그 모양을 만들어서 그 일을 할 수 있을까요?'라고 말할 수도 있습니다. ... 그러니까 일종의 역 알파폴드입니다. ...

 

리드 알베르가티: ... 이것이 ... 조금 어려운 질문이지만, ... 알파폴드 단백질은 ... 어떤 면에서는 고정되어 있는 단백질을 기반으로 합니다. ... 하지만 단백질은 움직이고, 끊임없이 모양이 변합니다. AI가 단일 모양이 아니라 ... 무한한 수의 모양을 가지는 것을 해결할 수 있는 과제라고 생각하시나요?

 

셰인 레그: ... 당신은 단백질에 대한 것들을 묻고 있는데, ... 저는 단백질 전문가가 아닙니다. ... 저는 머신 러닝 전문가이지 단백질 전문가가 아닙니다. 제가 제대로 이해했다면, 매우 정적이고 딱딱한 단백질도 있고, 특정 방식으로 역동적으로 변하는 단백질도 있습니다. ... 그리고 우리는 이러한 다양한 것들을 처리하기 위한 알고리즘을 개발하고 있습니다. ... 하지만 여기서 멈추겠습니다. 그렇지 않으면 제가 너무 깊이 들어가서 단백질에 대한 세부 사항에 대해서는 ... 단백질 전문가에게 물어봐야 할 겁니다.

 

리드 알베르가티: 날씨 예측에 대해서도 언급했습니다. ... 유럽 모델과 ... 모든 다른 ... 유명한 ... 가장 정확한 물리 기반 날씨 모델을 능가했습니다. ... 저는 그것이 정말 흥미롭다고 생각했습니다. 기본적으로 ... 구름 형성이 ... 고기압과 저기압에서 어떻게 움직이는지 물리학을 이해할 필요가 없습니다. ... 그냥 모델에게 ... 숫자 몇 개를 기반으로 날씨를 알아내라고 하면 됩니다. ...

 

셰인 레그: 네, 그게 마법입니다. 그래프 네트워크라는 것을 사용합니다. ... 그리고 알고리즘은 그래프캐스트라고 불립니다. ... 그리고 네, 그게 마법의 일부입니다. 이러한 정말 강력한 머신 러닝 알고리즘과 좋은 데이터가 있으면 ... 날씨 예측에서는 상당히 많은 양의 데이터가 있습니다. ... 이러한 모델은 데이터에서 모델링하는 방법을 학습합니다. ... 공기와 온도의 움직임에 대한 유체 역학의 모든 것을 수작업으로 만들 필요가 없습니다. ... 데이터에서 학습합니다. ...

그리고 이러한 패턴은 여러 분야에 적용됩니다. 우리가 만든 WaveNet도 그런 예입니다. ... 우리는 음성을 생성하는 최첨단 알고리즘을 만들었습니다. ... 역사적으로는 ... 텍스트를 보고 분석하고 ... 다른 음소를 알아내고 ... 모든 종류의 것들을 조합하여 ... 하는 모든 종류의 특수 알고리즘이 있었습니다. ... 그리고 WaveNet에서는 매우 다른 접근 방식을 취했습니다. 우리는 '여기에 시작 부분의 텍스트가 있고, 저기에 끝 부분의 파형이 있습니다. ... 어떤 종류의 신경망을 사용하여 하나에서 다른 하나로 가는 함수가 있을 것입니다. ... 그냥 학습하세요.'라고 말했습니다. ...

그리고 그것은 음성의 훨씬 더 미묘한 측면과 ... 다른 소리가 섞이는 모든 다른 방식 등을 학습합니다. ... 그래서 모든 종류의 수작업에 의존하지 않고, ... 데이터가 말하고, 모델이 데이터를 듣고 ... 그러한 미묘함을 학습하는 것에 의존합니다. 그리고 이것은 지난 10년 동안 우리가 본 것의 마법입니다. 대규모 언어 모델도 마찬가지입니다. ... 언어 모델에게 ... 이것은 명사이고, 이것은 동사구이고, ... 이것은 프랑스어이고, 이것은 영어이고 ... 등등을 알려주지 않습니다. ... 아닙니다, 아닙니다, 아닙니다. 토큰이 들어오면 다음 토큰을 예측합니다. ... 그리고 모든 언어와 ... 다른 언어와 ... 모든 것을 입력하고, ... 학습에 의존하여 모든 것을 정리합니다. 그게 우리가 본 마법입니다.

 

리드 알베르가티: ... 안전 연구자들이 '좋아요, 암 치료, ... 기후 변화를 위한 신소재, 핵융합, 훌륭합니다. ... 하지만 AGI는 하지 맙시다. 그냥 그런 것들만 합시다. AGI는 만들지 맙시다.'라고 말하는 것을 들을 수 있을까요? ...

그것은 가능한 길일까요? 아니면 ... 이 모든 것을 계속 발전시키기 위해서는 전반적인 연구가 필요할까요?

 

셰인 레그: 네. ... 저는 두 가지 측면이 있다고 생각합니다. 한 가지 측면은 특정 종류의 문제는 ... 매우 크고 다양한 데이터 세트를 갖는 것이 도움이 됩니다. ... 그리고 매우 매우 특수화된 시스템을 학습하는 것보다 일반적인 시스템을 학습하는 것이 실제로 더 낫습니다. 왜냐하면 깊은 기본 구조가 있기 때문입니다. ...

예를 들어, ... 많은 언어를 배우고 ... 새로운 언어를 배우기 시작했다고 가정해 보겠습니다. ... 첫 번째 언어에서 배운 깊은 구조 때문에 ... 아마도 기본 현실과 모든 종류의 것들을 나타낼 것입니다. ... 실제로 두 번째 언어를 더 잘 배우게 될 것입니다. 왜냐하면 첫 번째 언어를 배울 때 이미 세상에 대해 많은 것을 배웠기 때문입니다. ...

그래서 특정 문제를 해결하고 싶더라도 관련 문제를 배우는 것이 실제로 더 나은 경우가 있습니다. 왜냐하면 깊은 공통성과 기본 구조가 있기 때문입니다. ...

그리고 또한 특정 유형의 문제 해결에서는 매우 좁은 초점을 맞춘 모델을 갖는 것보다 세상에 대한 많은 양의 의미론적 이해를 갖는 것이 좋습니다. ... 그래서 저는 좁은 AI 접근 방식이 결코 효과적이지 않을 영역에서 AGI 접근 방식이 효과적일 수 있는 특정 유형의 문제가 있다고 믿습니다. 그것은 한 가지 측면입니다.

하지만 당신이 말하는 것의 또 다른 측면은 ... AGI를 만드는 것을 멈출 수 있는가 하는 것입니다. ... 저는 ... 그것이 좋은 생각이라고 생각하는 사람들을 이해합니다. ... 우리는 ... 잠재적으로 매우 유능한 시스템인 AGI와 그들이 말하는 ASI, 인공 초지능으로 가고 있고, 저는 그것이 AGI 이후에 상당히 가능하다고 생각합니다. ... 그리고 그 결과는 ... 이전에 말했듯이 예측하기 어렵습니다. 왜냐하면 그것은 세상에 대한 매우 깊은 변화이기 때문입니다. 그래서 ... 저는 사람들이 '좋아요, 어쩌면 우리는 이것을 늦추거나 멈추려고 노력해야 할 것입니다.'라고 말하는 것을 이해합니다.

저는 실제로 그것을 할 수 있는 실현 가능한 방법을 모르겠습니다. 문제는 이 ... 기술이 ... 전 세계의 많은 대기업에서 추구되고 있다는 것입니다. ... 그리고 그들은 이것을 하는 데 매우 강한 인센티브를 가지고 있습니다. 그리고 ... 더 작은 버전의 이러한 모델을 만드는 더 작고 더 작은 회사가 많이 있습니다. ... 그리고 각 세대마다 1~2년 전의 최첨단 기술을 따라잡습니다. 많은 행위자가 이 기술을 발전시키려고 노력하고 있습니다. 어떻게 그들 모두를 막을 수 있을까요?

하지만 특히 어려운 그룹이 있습니다. 바로 정보 기관입니다. ... NSA와 같은 기관이라면 ... 수학 지식, 기술 지식 등을 갖춘 많은 사람들이 있을 것입니다. 그들은 이러한 대규모 언어 모델과 그 작동 방식 등을 이해할 것입니다. 그들은 거대한 양의 컴퓨팅 파워와 거대한 데이터 센터를 가지고 있습니다. 그리고 그들은 이러한 공개 기업보다 더 많은 데이터를 가지고 있습니다. 그들은 우리가 모델을 훈련하는 데 사용하는 모든 공개 데이터를 가지고 있지만, 그들은 수집하는 모든 신호 정보도 가지고 있습니다.

이제, ... 분명히 그들은 매우 강력한 파운데이션 모델을 만들 것입니다. ... 그리고 누가 알겠습니까? ... 저는 모릅니다. 저는 NSA에서 일하는 사람을 아는 사람이 없습니다. ... 그들이 해야 한다고 생각하지만 ... 그들의 모델이 얼마나 좋은지, 어쩌면 매우 좋을지도 모릅니다. 저는 중국 정보 기관도 ... 그들을 만들고 있을 것이라고 생각합니다.

그래서 ... 강력한 파운데이션 모델 개발을 막을 수 있는 신뢰할 수 있는 계획을 말해주세요. ... 저는 ... 귀를 기울이겠지만, 그 계획이 무엇인지 모르겠습니다.

 

리드 알베르가티: 흥미로운 질문입니다. ...

... 그래서 당신은 미래에 대해 ... 알파폴드, 그래프캐스트, ... 등등이 아니라 ... 모든 것을 할 수 있는 하나의 지능이 있을 것이고, ... '좋아요, 이제 백만 가지 약물 후보를 만들어내고, ... 핵융합 토카막 반응로에서 플라스마를 지시하는 방법을 알아내세요.'라고 요청하면, 그것이 모든 것을 할 것이라고 생각하시나요?

 

셰인 레그: 네, 그리고 아닙니다. ... 당신이 묘사하는 것처럼 모든 것을 하는 하나의 시스템이 있을 것이라고 생각하지만, 그것은 항상 무언가를 하는 가장 좋은 방법은 아닙니다. 하지만 조금 모호해집니다. ...

... 어떤 종류의 ... 수학적 계산을 수행하고 싶다고 가정해 보겠습니다. ... 많은 숫자를 더하거나 그런 종류의 일을 해야 합니다. ... 대규모 언어 모델에게 그렇게 하라고 하지는 않을 것입니다. 왜냐하면 숫자를 더하는 데 매우 비효율적인 방법이기 때문입니다. ...

하지만 당신이 할 수 있는 일은 ... 사람이 하는 것과 비슷합니다. 강력한 AGI 시스템은 '좋아요, 100경 개의 숫자를 더하거나 그런 종류의 일을 해야 합니다. ... 그래서 ... 일부 소프트웨어를 작성하여 ... 특수 하드웨어에서 실행하여 ... 작업을 수행하고 답을 제공할 것입니다.'라고 말할 수 있습니다. ...

그래서 그럴 때는 ... 어떤 의미에서는 하나의 시스템만 필요하지만, ... 문제를 스스로 해결할 필요는 없습니다. 실제로 우리가 인간으로서 하는 것처럼 일종의 도구를 만들 수 있습니다. 그래서 단백질을 접고 싶다면, 큰 AGI 시스템이 단백질을 접는 것이 아니라, 단백질을 접는 도구를 사용하거나 심지어 ... 단백질 접힘이나 다른 관련 문제를 해결하는 도구를 만들 수도 있습니다. ... 그래서 그것은 그 자체로 매우 강력할 뿐만 아니라 도구를 만들 수 있는 능력도 매우 강력합니다. 그리고 이것은 인간 지능의 놀라운 것 중 하나입니다. ...

우리는 100경 개의 숫자를 더할 수 있지만, 머릿속으로 하지는 않습니다. 그것을 하는 도구를 만듭니다. 그리고 저는 비슷한 종류의 역학이 일어날 것이라고 생각합니다.

 

리드 알베르가티: 시간이 다 되어 가는데, ... 마지막 질문입니다. ... 당신은 이 기술의 궤적을 ... 예측할 수 있었습니다. ... 2028년에 대해 이야기했고, ... AGI에 도달할 확률이 50%라고 했습니다. ...

... 2030년이나 ... 어쩌면 당신이 염두에 두고 있는 다른 해가 있을 수도 있지만, 이 혁명, 이 변화가 일어나면 세상은 어떤 모습일까요?

 

셰인 레그: 예측하기 매우 어려울 것입니다. 왜냐하면 이것은 깊고 깊은 변화이기 때문입니다. ... 모든 종류의 측면에 영향을 미칠 것입니다. 매우 흥미로운 시기가 될 것입니다. ... 하지만 솔직히 말해서 ... 이해하기 어렵습니다.

저는 ... 예를 들어 산업 혁명을 생각해 봅니다. ... 산업 혁명은 거의 모든 것에 영향을 미쳤습니다. ... 대기, 직물로 만든 옷, 노동법과 경제 구조, 국제 무역, 가족 구조, 성별 관계, ... 모든 것에 영향을 미쳤습니다. 우리의 식단도 산업 혁명의 영향을 받았습니다.

이제, 그만큼 심오한 것, 어쩌면 지능의 도래와 함께 더 심오한 것을 상상해 보세요. 그것은 너무나 많은 것에 영향을 미칠 것이고, ... 꽤 놀라울 것입니다. 그래서 ... 미래가 어떤 모습일지 어떻게 상상할 수 있을까요? 저는 모르겠습니다. 몇 잔 마시고 상상해 보려고 했지만 ... ... 추측의 영역에 들어가고 있습니다.

저는 어떤 모습이었으면 좋겠는가, ... 어떤 모습이었으면 좋겠는가 하면, ... 경제에서 엄청난 생산성이 있는 세상입니다. ... 그래서 기계는 엄청난 양의 부를 창출할 수 있고, ... 사람들은 이 부에 광범위하게 접근할 수 있습니다. 왜냐하면 이 엄청난 부 창출 능력이 있기 때문입니다. 오랫동안 풀리지 않았던 모든 종류의 의료 및 과학적 문제가 해결될 수 있습니다. 우리는 ... 제대로 된 청정 에너지를 가질 수 있고, 환경을 돌볼 수 있고, ... 의료 문제를 해결하고, 우주와 물리학의 깊은 신비를 이해할 수 있고, ... 모든 암흑 물질은 무엇이며, 무엇을 하고 있는지 등등을 이해할 수 있습니다. ... 양자 역학과 일반 상대성 이론을 통합하고, ... 등등, 등등. 저는 그것이 ... 꽤 놀라운 미래가 될 것이라고 생각합니다.

 

리드 알베르가티: 와, 정말 좋겠네요. 그렇게 되기를 바랍니다. ... 우리는 ... 그걸로 오늘날 우리가 가진 많은 문제를 해결할 수 있을 겁니다. ...

 

시간이 다 되었지만 ... 정말 흥미로운 대화였습니다. ... 여기 있는 모든 사람들이 ... 하루 종일 ... 질문을 할 수 있을 것이라고 확신하지만, ... 정말 감사합니다. 그리고 참석해 주신 여러분께도 감사드립니다.

 

셰인 레그: 감사합니다.