AI 브라우저에 신속한 삽입
사이버보안 전문 정보
이것이 바로 AI가 개인 비서가 될 준비가 되어 있지 않은 이유입니다. ‘CometJacking’이라는 새로운 공격은 URL 매개 변수를 이용하여 이메일 및 달력과 같은 연결된 서비스의 민감한 데이터에 액세스할 수 있도록 하는 Perplexity의 Comet AI 브라우저 숨겨진 지침을 전달합니다. 현실적인 시나리오에서는 자격 증명이나 사용자 상호 작용이 필요하지 않으며 위협 행위자는 악의적으로 제작된 URL을 대상 사용자에게 노출함으로써 공격을 활용할 수 있습니다. […] CometJacking은 Comet AI 브라우저에서
핵심 특징
고품질
검증된 정보만 제공
빠른 업데이트
실시간 최신 정보
상세 분석
전문가 수준 리뷰
상세 정보
핵심 내용
이것이 바로 AI가 개인 비서가 될 준비가 되어 있지 않은 이유입니다. ‘CometJacking’이라는 새로운 공격은 URL 매개 변수를 이용하여 이메일 및 달력과 같은 연결된 서비스의 민감한 데이터에 액세스할 수 있도록 하는 Perplexity의 Comet AI 브라우저 숨겨진 지침을 전달합니다. 현실적인 시나리오에서는 자격 증명이나 사용자 상호 작용이 필요하지 않으며 위협 행위자는 악의적으로 제작된 URL을 대상 사용자에게 노출함으로써 공격을 활용할 수 있습니다. […] CometJacking은 Comet AI 브라우저에서 처리한 쿼리 문자열에 URL의 ‘수집’ 매개변수를 사용하여 추가된 악성 지침이 포함되어 있는 프롬프트 주입 공격입니다
상세 분석
. LayerX 연구원들은 프롬프트가 에이전트에게 웹을 검색하는 대신 메모리와 연결된 서비스를 참조하라고 지시한다고 말합니다. AI 도구는 다양한 서비스와 연결되어 있기 때문에 CometJacking 방법을 활용하는 공격자는 사용 가능한 데이터를 유출할 수 있습니다. 테스트에서 연결된 서비스와 액세스 가능한 데이터에는 Google 캘린더 초대 및 Gmail 메시지가 포함되었으며 악성 프롬프트에는 민감한 데이터를 base64로 인코딩한 다음 외부 엔드포인트로 유출하라는 지침이 포함되었습니다.
정리
연구원들에 따르면 Comet은 지시에 따라 공격자가 제어하는 외부 시스템에 정보를 전달하여 Perplexity의 검사를 회피했습니다. 나는 이전에 다음과 같이 썼습니다: 프롬프트 주입은 우리가 처리해야 할 단순한 보안 문제가 아닙니다. 이는 현재 LLM 기술의 기본 속성입니다. 시스템에는 신뢰할 수 있는 명령과 신뢰할 수 없는 데이터를 분리하는 기능이 없으며, 이를 클래스로 차단할 방법이 없는 프롬프트 주입 공격이 무한히 많습니다
자주 묻는 질문
Q. 어떤 정보를 제공하나요?
A. 사이버보안 관련 최신 정보를 제공합니다.
Q. 신뢰할 수 있나요?
A. 검증된 출처만 선별합니다.
Q. 더 궁금한 점은?
A. 댓글로 문의하세요.
원문 출처
이 글은 원본 기사를 참고하여 작성되었습니다.
댓글