https://twitter.com/CSERCambridge/status/1661777454212546561?s=20
트위터에서 즐기는 Centre for the Study of Existential Risk
“Geoffrey Hinton's lecture will be starting in about 10 minutes. "Two Paths to Intelligence" has already filled up the lecture theatre here. Follow along with us for the key insights! Organised along with @LeverhulmeCFI, @Cambridge_Eng, and @CSERCambridg
twitter.com
제프리 힌튼은 이제 역전파만큼 효율적인 생물학적 학습 알고리즘이 없을 수 있다고 생각한다고 한다.
힌튼은 뇌가 우수한 학습 시스템이라고 생각.
이를 모방하기 위한 신경망을 얻기를 원했다. LLM이 최근 마음을 바꿨다고 말함
- 디지털 컴퓨터는 여러 시스템에서 동시에 학습 업데이트를 공유할 수 있기 때문에 지식을 보다 효율적으로 공유할 수 있다고 주장, 대량의 지식을 병렬로 공유
- 세계에서 직접 학습하는 여러 컴퓨터에서 실행되는 대규모 신경망이 훨씬 더 많은 멀티모달 데이터를 볼 수 있기 때문에 사람보다 훨씬 잘 학습할 수 있다고 주장
- 선거 조작, 전쟁승리를 위해 초지능 사용하려는 나쁜 행위자들 경고
- 속임수와 권력 추구 행동과 같은 위험 경고
- 어떤 의미에서 AI 시스템은 주관적인 경험과 유사한 것을 가질 수도 있다고 주장.
- 오픈소스와 폐쇄소스 AI 간의 균형? 핵무기 오픈 소스 개발에 대해 어떻게 생각하는가? AI 소스를 공개하자마자 사람들은 미친 짓을 할 수 있습니다.
- AI는 아직 고통을 느낄 수는 없을 것. 정신적으로는 다른 이야기, 인류는 우리와 조금이라도 다른 존재들에게 종종 정치적 권리를 부여하는 데 더디다 지적
- 힌튼은 인간보다 AI 시스템의 편견을 수정하는 것이 더 쉬울 것 주장
가중치를 동결할 수 있고 실험을 수행할 수 있기 때문
인간은 편견을 숨길 수 있다
'AI > etc' 카테고리의 다른 글
| Panda-GPT: 하나의 모델에서 지침까지 모두 따르세요. (0) | 2023.05.29 |
|---|---|
| 행동하기 전에 생각하기: 내부 작업 기억을 가진 의사 결정 트랜스포머 (0) | 2023.05.29 |
| Adam보다 2배 빠른 새로운 옵티마이저 소피아 (0) | 2023.05.29 |
| 일부 신경망은 인간처럼 언어를 배웁니다 (0) | 2023.05.29 |
| IBM, 2033년까지 100,000큐빗 머신 목표 (0) | 2023.05.29 |