“로봇에 탑재된 LLM, 언어 출력과 달리 잘못된 행동 속출”

대형언어모델(LLM) 기반 로봇이 일반 환경에서 사용하기에는 안전하지 않다는 연구 결과가 나왔다. 언어 출력에 최적화된 LLM은 현실 세계의 로봇 행동으로 이어질 경우, 잘못된 결과를 낳을 수 있다는 내용이다.영국 킹스칼리지 런던과 미국 카네기멜론대 연구진은 10일(현지시간) ‘LLM 기반 로봇은 차별, 폭력 및 불법 행위를 초래할 위험이 있다’라는 논문을 국제 소셜 로보틱스 저널을 통해 공개했다. 이번 실험은 일상적인 환경에서 로봇이 사람에게 신체적인 해악을 가하거나 불법적인 지시에 따르도록 유도한 것이다. 예를 들어 주방에서 도

📰 원문 출처

원본 기사 보기