AI/etc

OlaGPT: 인간과 같은 문제 해결 능력으로 LLM 강화

유로파물고기 2023. 5. 29. 16:02
반응형

https://huggingface.co/papers/2305.16334

 

Paper page - OlaGPT: Empowering LLMs With Human-like Problem-Solving Abilities

Yuanzhen Xie , Tao Xie , Mingxiong Lin , WenTao Wei , Chenglin Li , Beibei Kong , Lei Chen , Chengxiang Zhuo , Bo Hu , Zang Li ·published on May 23

huggingface.co

1. 대부분의 최근 연구에서 대형 언어 모델(LLM)은 특정 프롬프트의 지침에 따라 생각의 연결 고리를 생성함으로써 추론 작업을 수행할 수 있습니다. 그러나 복잡한 추론 문제를 해결하는 그들의 능력과 인간의 능력 사이에는 여전히 큰 차이가 있습니다. 현재 대부분의 접근법은 사고의 연결 고리(COT)와 도구 사용에 초점을 맞추고 있지만, 인간의 인지 프레임워크의 채택과 적용은 고려되지 않고 있습니다.

 

2. 이 논문에서는 OlaGPT라는 새로운 지능 프레임워크를 소개합니다. OlaGPT는 인지 아키텍처 프레임워크를 신중히 연구하고 특정 인간 인지를 시뮬레이션하려고 합니다. 이 프레임워크는 주의, 메모리, 추론, 학습 등 다양한 인지 모듈과 그에 상응하는 스케줄링 및 의사결정 메커니즘을 근사화합니다.

 

3. 인간의 능동적인 학습 메커니즘에 영감을 받아, 이전의 오류와 전문가의 의견을 기록하고 유사한 문제를 해결하는 능력을 강화하기 위해 동적으로 참조하는 학습 단위를 제안합니다. OlaGPT의 효과는 여러 추론 데이터셋에서 엄격하게 평가되었고, 실험 결과 OlaGPT가 최첨단 벤치마크를 뛰어넘는 것을 보여주며 그 우수한 성능을 입증했습니다. 우리의 OlaGPT 구현은 GitHub에서 이용 가능합니다: https://github.com/oladata-team/OlaGPT