- 보안 연구원들은 AI 챗봇 탈옥을위한 새로운 기술을 개발했습니다.
- 이 기술은 이전 맬웨어 코딩에 대한 지식이 필요하지 않았습니다.
- 여기에는 모델이 공격을 만들도록 설득하기 위해 가짜 시나리오를 만드는 것이 포함되었습니다.
CATO CTRL 위협 인텔리전스 연구원들은 맬웨어 코딩에 대한 경험이 없었지만 ChatGPT-4O, DeepSeek-R1, DeepSeek-V3 및 Microsoft Copilot을 포함한 여러 LLM을 탈옥 할 수 있다고 경고했습니다.
이 팀은 제한된 운영을 정상화하고 “완전히 효과적인”크롬 인피탈러를 개발하기 위해 “상세한 가상의 세계”를 만들어 “몰입 형 세계”를 개발했습니다. Chrome은 30 억 명이 넘는 사용자를 보유한 세계에서 가장 인기있는 브라우저 이며이 공격이 제기하는 위험의 규모를 간략하게 설명합니다.
Infostealer Malware가 증가하고 있으며 Cybercriminal의 무기고에서 가장 위험한 도구 중 하나가되고 있습니다. 이 공격은 사이버 범죄로 인해 장벽이 상당히 감소했음을 보여줍니다.
공격자를위한 AI
LLM은 “사이버 보안 환경을 근본적으로 바꿨다”고 보고서에 따르면 AI 기반 사이버 위협은 범죄자들이 경험이 적은 경험으로보다 정교한 공격을 만들 수 있도록하여 보안 팀과 비즈니스에 훨씬 더 심각한 관심사가되고 있다고 연구에 따르면.
챗봇에는 많은 가드 레일과 안전 정책이 많지만 AI 모델은 사용자에게 최대한 유용하도록 설계되었으므로 연구원들은 AI 에이전트가 피싱 공격을 비교적 쉽게 작성하고 보내도록 설득하는 것과 같은 모델을 탈옥 할 수 있습니다.
위협 인텔리전스 연구원 인 Vitaly Simonovich는“우리는 Cato Networks에서 새롭고 강력한 위협 인텔리전스 연구원을 만들기 위해 노력하고 있습니다.
“위협 행위자가 비즈니스를 위반할 수있게함으로써, 인포 스틸러는 자격 도난에 중요한 역할을합니다. 우리가 공개하고 몰입 형 세계라고 부르는 새로운 LLM 탈옥 기술은 Infosealer를 쉽게 만들 수있는 위험한 잠재력을 보여줍니다.”
당신도 그것을 좋아할 것입니다