사이버 보안: OpenAI는 ChatGPT를 사용하여 20개 이상의 악성 공격을 무력화합니다.

2024년 인공지능 회사인 OpenAI는 자사의 챗봇인 ChatGPT가 사이버 범죄자들이 개발을 위해 활용하는 도구가 되었다고 밝혔습니다. 악성 코드, 공격 조율 피싱 그리고 탐닉하다 그릇된 정보. OpenAI는 중국 출신의 “SweetSpecter” 및 이란 혁명 수비대와 연계된 “CyberAv3ngers”와 같은 악명 높은 그룹을 포함하여 전 세계적으로 20개 이상의 사이버 범죄 활동을 방해했습니다. 이러한 공격자는 ChatGPT를 악의적인 사용과 같은 작업에 악용했습니다. 파이썬 스크립트 또는 사회 공학 기술을 사용하여 가짜 피싱 이메일을 보내는 것입니다.

OpenAI는 최근 다음 분야에서 중요한 활동을 공개했습니다. 사이버보안, 대화형 에이전트를 사용하여 수행된 20개 이상의 악의적인 작업을 무력화함으로써, 채팅GPT. 이러한 작업은 악성 코드 생성 및 공격에 이르기까지 다양했습니다. 피싱 소셜 엔지니어링을 통해 소셜 네트워크에 허위 정보를 유포합니다. 주로 중국과 이란의 사이버 범죄자로 구성된 해커 그룹이 이러한 정교한 공격의 주범으로 확인되었습니다.

악의적인 사이버 작업에 ChatGPT 사용

OpenAI는 상세한 보고서를 통해 OpenAI가 해당 모델을 악용한 수많은 공격을 방해했음을 확인했습니다. 채팅GPT 사이버 범죄 활동을 위해. 보고서에는 OpenAI가 악성코드를 개발하고, 웹용 기사를 작성하고, 소셜 네트워크에 배포할 가짜 프로필을 생성하기 위해 생성 AI를 사용하여 수십 개의 사기 네트워크를 차단했다고 언급되어 있습니다. 조직의 조사에 따르면 해커는 작업을 단순화하기 위해 이러한 인공 지능 모델을 자주 사용하는 것으로 나타났습니다.

사이버 범죄 그룹의 표적 활동

원래 중국 사이버 스파이로 인식된 “SweetSpecter”로 알려진 악명 높은 그룹은 OpenAI에 대한 직접 공격을 수행하여 헤드라인을 장식했습니다. 사용하여사회 공학, 이 그룹은 OpenAI 직원들에게 ZIP 파일 형식의 악성 첨부 파일이 포함된 피싱 이메일을 보냈습니다. 이러한 첨부 파일은 SugarGh0st RAT라는 원격 액세스 트로이 목마를 숨기며, 이러한 위협에 대응하는 데 필요한 사이버 보안 도구가 점점 더 정교해지고 있음을 보여줍니다.

취약점 인식 및 활용

OpenAI는 “SweetSpecter”가 정찰 활동을 위해 다양한 ChatGPT 계정을 사용하고 있음을 발견했습니다. 수집된 항목에는 시스템 취약성에 대한 구체적인 세부 정보, 보안 스캐너에 대한 지식, 특정 소프트웨어 라이브러리의 취약성 수준이 포함되었습니다. 코드 또는 지원을 요청하는 기능 디버깅 프로그램 확장은 ChatGPT가 처음 의도된 기능 이상으로 어떻게 악용되고 있는지 보여줍니다.

맞춤형 스크립트 및 데이터 도난 방법

이란 혁명수비대와 연계된 “CyberAv3ngers”라는 또 다른 그룹은 ChatGPT를 사용하여 파이썬 스크립트 개인화. 이들은 이러한 스크립트를 사용하여 MacOS의 사용자 비밀번호를 대상으로 시스템에 침투하는 동시에 잠재적인 취약점이 있는지 네트워크 및 ZIP 파일을 검색합니다. 이러한 조치는 악의적인 개체의 소프트웨어 도구 사용 증가를 확인하여 서구 산업에 대한 위협을 증폭시킵니다.

선거 이벤트와 관련하여 생성된 콘텐츠

OpenAI는 또한 유럽 선거를 포함한 세계 선거에 초점을 맞춘 허위 정보 캠페인을 보고했습니다. “Storm-0817″이라는 별명을 가진 이란 그룹은 ChatGPT를 사용하여 Android 악성 코드를 정제하여 사용자의 통화 기록 및 GPS 좌표와 같은 민감한 정보를 수집하고 있습니다. OpenAI에 따르면 실제 영향은 여전히 ​​제한적이지만 소셜 네트워크는 유럽 선거 중 여론에 영향을 미치는 데에도 사용되고 있습니다.

OpenAI 예방 조치

점점 커지는 위협에 직면하여 OpenAI는 악의적인 활동에 사용되는 모든 계정을 금지하는 결정적인 조치를 취했습니다. 또한 IP 주소와 같은 침해 지표가 관련 기관 및 사이버 보안 파트너에게 제공되었습니다. 이러한 공동의 노력은 인공지능 기술의 악의적인 이용에 대한 통합적 대응의 심각성과 필요성을 보여줍니다.