OpenAI의 새로운 LLM은 AI가 실제로 작동하는 방식의 비밀을 드러냅니다

게시일: 게시자: 카테고리:wellness

OpenAI의 새로운 LLM은 AI가 실제로 작동하는 방식의 비밀을 드러냅니다 완벽가이드

  1. 소개
  2. 핵심 특징
  3. 상세 정보
  4. 자주 묻는 질문

OpenAI의 새로운 LLM은 AI가 실제로 작동하는 방식의 비밀을 드러냅니다

IT/기술 전문 정보

OpenAI의 새로운 LLM은 AI가 실제로 작동하는 방식의 비밀을 드러냅니다

ChatGPT 제조사인 OpenAI는 일반적인 모델보다 훨씬 이해하기 쉬운 실험적인 대규모 언어 모델을 구축했습니다. 오늘날의 LLM은 블랙박스이기 때문에 이는 큰 문제입니다. 누구도 자신이 수행하는 작업을 완전히 이해하지 못합니다. 보다 투명한 모델을 구축하면 LLM이 일반적으로 작동하는 방식에 대한 정보가 제공되어 연구원이 모델이 환각을 느끼는 이유, 궤도를 벗어나는 이유, 중요한 작업에서 모델을 얼마나 신뢰해야 하는지 파악하는 데 도움이 됩니다. OpenAI의 연구 과학자인 Leo Gao는 MIT Technology Revie

핵심 특징

고품질

검증된 정보만 제공

빠른 업데이트

실시간 최신 정보

상세 분석

전문가 수준 리뷰

상세 정보

핵심 내용

ChatGPT 제조사인 OpenAI는 일반적인 모델보다 훨씬 이해하기 쉬운 실험적인 대규모 언어 모델을 구축했습니다. 오늘날의 LLM은 블랙박스이기 때문에 이는 큰 문제입니다. 누구도 자신이 수행하는 작업을 완전히 이해하지 못합니다. 보다 투명한 모델을 구축하면 LLM이 일반적으로 작동하는 방식에 대한 정보가 제공되어 연구원이 모델이 환각을 느끼는 이유, 궤도를 벗어나는 이유, 중요한 작업에서 모델을 얼마나 신뢰해야 하는지 파악하는 데 도움이 됩니다. OpenAI의 연구 과학자인 Leo Gao는 MIT Technology Review에서 새로운 작업에 대한 독점 미리 보기를 통해 “이러한 AI 시스템이 더욱 강력해짐에 따라 매우 중요한 영역에 점점 더 많이 통합될 것입니다.”라고 말했습니다. “그들이 안전한지 확인하는 것이 매우 중요합니다.” 이는 아직 초기 연구이다. Weight-Sparse Transformer라고 불리는 새로운 모델은 회사의 GPT-5, Anthropic의 Claude 및 Google DeepMind의 Gemini와 같은 최상위 대중 시장 모델보다 훨씬 작고 성능이 훨씬 떨어집니다.

상세 분석

기껏해야 OpenAI가 2018년에 개발한 모델인 GPT-1만큼 성능이 뛰어나다고 Gao는 말합니다(그와 그의 동료들은 직접적인 비교를 수행하지 않았지만).     하지만 목표는 동급 최고와 경쟁하는 것이 아닙니다(적어도 아직은). 대신, OpenAI는 이 실험 모델이 어떻게 작동하는지 살펴봄으로써 더 크고 더 나은 버전의 기술 내부에 숨겨진 메커니즘에 대해 배우기를 희망합니다. LLM의 작동 방식을 연구하고 프로젝트에는 참여하지 않은 Boston College의 수학자 Elisenda Grigsby는 “그것은 흥미로운 연구입니다. “나는 그것이 도입하는 방법이 상당한 영향을 미칠 것이라고 확신합니다.”라고 말했습니다.  AI 스타트업 Goodfire의 연구 과학자 Lee Sharkey도 이에 동의합니다. “이 작업은 올바른 목표를 목표로 하고 있으며 잘 실행된 것 같습니다.”라고 그는 말합니다. 모델이 OpenAI의 작업을 이해하기 어려운 이유는 모델이 다양한 작업을 수행할 때 사용하는 내부 메커니즘을 매핑하려는 기계적 해석성이라는 새로운 인기 연구 분야의 일부입니다. 생각보다 어려운 일입니다.

정리

LLM은 레이어로 배열된 뉴런이라고 불리는 노드로 구성된 신경망으로 구축됩니다. 대부분의 네트워크에서 각 뉴런은 인접한 레이어의 다른 모든 뉴런과 연결됩니다. 이러한 네트워크를 조밀한 네트워크라고 합니다. 조밀한 네트워크는 훈련하고 실행하는 데 상대적으로 효율적이지만 학습한 내용을 방대한 연결 매듭에 분산시킵니다. 그 결과 간단한 개념이나 기능이 모델의 여러 부분에 있는 뉴런 간에 분할될 수 있습니다. 동시에 특정 뉴런은 중첩(양자 물리학에서 차용한 용어)으로 알려진 현상인 여러 다른 특징을 나타낼 수도 있습니다. 결론은 모델의 특정 부분을 특정 개념과 연관시킬 수 없다는 것입니다.

자주 묻는 질문

Q. 어떤 정보를 제공하나요?

A. IT/기술 관련 최신 정보를 제공합니다.

Q. 신뢰할 수 있나요?

A. 검증된 출처만 선별합니다.

Q. 더 궁금한 점은?

A. 댓글로 문의하세요.

원문 출처

이 글은 원본 기사를 참고하여 작성되었습니다.

댓글

답글 남기기

이메일 주소는 공개되지 않습니다. 필수 필드는 *로 표시됩니다