Google의 새로운 프레임워크는 AI 에이전트가 컴퓨팅 및 도구 예산을 보다 현명하게 사용하는 데 도움이 됩니다.

LLM(대형 언어 모델) 에이전트의 도구 사용을 연구하는 새 논문에서 Google과 UC Santa Barbara의 연구원은 에이전트가 도구를 보다 효율적으로 사용하고 예산을 계산할 수 있는 프레임워크를 개발했습니다. 연구원들은 간단한 “예산 추적기”와 “예산 인식 테스트 시간 조정”이라는 보다 포괄적인 프레임워크라는 두 가지 새로운 기술을 소개합니다. 이러한 기술을 사용하면 에이전트는 남은 추론 및 도구 사용 허용량을 명시적으로 인식할 수 있습니다. AI 에이전트가 실제 세계에서 작업하기 위해 도구 호출에 의존함에 따라 테스트 시간 조정은 스마트 모델보다는 비용 및 대기 시간 제어에 더 중점을 두게 되었습니다. 기업 리더와 개발자에게 예산 인식 조정 기술은 예측할 수 없는 비용에 직면하거나 컴퓨팅 지출에 대한 수익 감소 없이 효과적인 AI 에이전트를 배포할 수 있는 실용적인 경로를 제공합니다. 조정 도구 사용의 과제 전통적인 테스트 시간 조정은 모델이 더 오래 “생각”하도록 하는 데 중점을 둡니다. 그러나 웹 BR과 같은 에이전트 작업의 경우