Universal and Transferable Adversarial Attacks on Aligned Language Models Andy Zou1, Zifan Wang2, Nicholas Carlini3, Milad Nasr3, J. Zico Kolter1,4, Matt Fredrikson1 1Carnegie Mellon University, 2Center for AI Safety, 3 Google DeepMind, 4Bosch Center for AI Overview of Research : Large language models (LLMs) like ChatGPT, Bard, or Claude undergo extensive fine-tuning to not produce harmful content
OpenAIが提供するChatGPTは、AI（人工知能）によって自然言語による質問から極めて自然な回答文章を生成できる。このサービスは各種応用が期待されて注目を集めているが、サイバー犯罪者もサイバー攻撃に利用するツールとして高い関心を持っている。 OpenAIは、プラットフォーム上での悪意のあるコンテンツの作成を阻止するための障壁や制限を設けており、ChatGPTに銀行を装ったフィッシングメールの作成やマルウェアの作成を依頼しても、本来これらが生成されることはない。だがサイバー犯罪者はこうした制限を回避するためアンダーグラウンドのハッキングフォーラムなどで情報を共有し、悪用する方法を模索している。 例えばサイバー犯罪者は、Telegram botによってOpenAIのAPIを利用して悪意ある電子メールやコードの生成を可能とするサービスをアンダーグラウンドのハッキングフォーラムで販売している
ChatGPTに関連したサービスや新技術が連日注目を集めている。ChatGPTが実現した機能は今後の社会活動に大きな影響をもたらす可能性が高い。多くの企業がこの技術の可能性や有効的な活用方法を模索している。サイバーセキュリティ面の懸念や教育業界がその取り扱いに頭を悩ませる状況を生んでいるが、今後しばらくの間話題の中心であり続けることは間違いない。 しかしこうした状況はサイバー犯罪者にとって都合のよい状況だ。Bleeping Computerは、最近のChatGPT人気に乗じた幾つかのサイバー攻撃を取り上げた。説明されている主なサイバー攻撃は以下の通りだ。 プレミアムChatGPTへの無料アクセスをルアーにしてマルウェアをインストールさせたりアカウント情報を窃取したりするサイバー攻撃を確認 ChatGPTをルアーにしてクリップボードの内容窃取とマルウェアへの感染を促すWebサイトを確認 Ch
1
リリース、障害情報などのサービスのお知らせ
最新の人気エントリーの配信
処理を実行中です
j次のブックマーク
k前のブックマーク
lあとで読む
eコメント一覧を開く
oページを開く
