サイバーセキュリティ: OpenAI は ChatGPT を使用して 20 を超える悪意のある攻撃を無力化します

2024 年、人工知能企業 OpenAI は、同社のチャットボットである ChatGPT が、サイバー犯罪者が開発を目的としたツールになったことを明らかにしました。 マルウェア、攻撃を組織化する フィッシング そしてそれにふける 偽情報。 OpenAI は、中国起源の「SweetSpecter」やイラン革命防衛隊と連携する「Cyber​​Av3ngers」などの悪名高いグループを含む、世界中で 20 以上のサイバー犯罪活動を妨害することに成功しました。これらの攻撃者は、ChatGPT を悪用して、 Python スクリプト ソーシャルエンジニアリング技術を使用して偽のフィッシングメールを送信することもできます。

OpenAI は最近、次の分野における重要な取り組みを明らかにしました。 サイバーセキュリティ会話型エージェントを使用して実行される 20 以上の悪意のある操作を無力化することで、 チャットGPT。これらの操作は、マルウェアの作成から攻撃まで多岐にわたりました。 フィッシング ソーシャル エンジニアリングを通じて、ソーシャル ネットワーク上での偽情報の拡散まで。これらの高度な攻撃の背後にある主な攻撃者は、主に中国とイランのサイバー犯罪者であるハッカー グループであると特定されています。

悪意のあるサイバー操作に ChatGPT を使用する

OpenAIがそのモデルを悪用した多数の攻撃を妨害したことを確認したことは、詳細な報告書によって明らかになった チャットGPT サイバー犯罪活動のため。報告書では、OpenAI がマルウェアの開発、Web 用の記事の作成、ソーシャル ネットワーク上で配布するための偽のプロフィールの作成などに生成 AI を使用して数十の不正ネットワークをブロックしたと述べています。同組織の内省によると、ハッカーは業務を簡素化するためにこれらの人工知能モデルを頻繁に使用していることがわかりました。

サイバー犯罪グループの標的を絞った行動

「SweetSpecter」として知られる悪名高いグループは、当初中国のサイバースパイと認識されており、OpenAI に対して直接攻撃を実行することで注目を集めました。の使用ソーシャルエンジニアリング、このグループは、ZIP ファイルの形式で悪意のある添付ファイルを埋め込んだフィッシングメールを OpenAI 従業員に送信しました。これらの添付ファイルには、SugarGh0st RAT という名前のリモート アクセス トロイの木馬が隠蔽されており、このような脅威に対抗するために必要なサイバーセキュリティ ツールがますます洗練されていることを示しています。

脆弱性の認識と悪用

OpenAI は、「SweetSpecter」が偵察活動にさまざまな ChatGPT アカウントを使用していることを発見しました。収集された項目には、システムの脆弱性に関する具体的な詳細、セキュリティ スキャナーに関する知識、特定のソフトウェア ライブラリの脆弱性レベルが含まれていました。コードまたはサポートをリクエストする機能 デバッグ プログラム拡張機能の数は、ChatGPT が当初意図した機能を超えてどのように悪用されているかを示しています。

カスタムスクリプトとデータ盗難手法

イラン革命防衛隊に所属する「Cyber​​Av3ngers」と呼ばれる別のグループは、ChatGPT を使用して Python スクリプト パーソナライズされた。これらのスクリプトを使用してシステムに侵入し、MacOS 上のユーザー パスワードをターゲットにし、ネットワークと ZIP ファイルをスキャンして潜在的な脆弱性を探します。これらの行為は、悪意のある組織によるソフトウェア ツールの使用の増加を裏付けており、したがって西側産業に対する脅威が増幅されています。

選挙イベントに関連して生成されたコンテンツ

OpenAIはまた、欧州選挙を含む世界の選挙に焦点を当てた偽情報キャンペーンも報告している。 「Storm-0817」と呼ばれるイランのグループは、ChatGPT を使用して Android マルウェアを改良し、通話履歴やユーザーの GPS 座標などの機密情報を収集しています。 OpenAIによると、実際の影響は依然として限られているものの、欧州でも選挙中にソーシャルネットワークが世論に影響を与えるために利用されている。

OpenAIの予防措置

この増大する脅威に直面して、OpenAI は悪意のある活動に使用されるすべてのアカウントを禁止するという断固たる措置を講じました。さらに、IP アドレスなどの侵害の兆候が関連当局やサイバーセキュリティ パートナーに提供されています。この共同の取り組みは、人工知能テクノロジーの悪意ある悪用に対する統合的な対応の深刻さと必要性を示しています。