AIが企業を「攻撃」？　進化を加速するAIと半導体の最前線！ #11

うんうん。

まあやっぱりAIもすごく今賢くなってきていて。

はいはい。

はい。あのー、今収録七月二十三日なんですけど、七月二十二日のニュースで、あのChatGPTを開発したOpenAIですよね。

うん。

OpenAIの、まあAI開発中に、そのAIが暴走して。

うんうんうん。

他の会社のAIに、こう、ハッキングしちゃうというか、サイバー攻撃をしてしまったっていうニュースが、あの話題になりましたね。

朝一めちゃくちゃ、あのー、なんかYouTubeとかで流れてるニュースとかでもブワーって流れてきて。

そうなんですよ。

あ、そうなんだってなりましたけど。

これはやっぱり、あの、今流行りのエージェント型AIとか、AIエージェントとかって言われるものなんだけど、今あのChatGPTは、こう、まあ一問一答みたいな感じじゃないですか。

はいはい、そうですね。

あの、質問して、返ってきて、っていうんじゃなくてもう少し高度なAIで、エージェンティックAIっていうのがあって、まあ何かこうタスクを与えると、あのAIが繰り返し質問と回答を繰り返して、まあ最終的な成果をまで出してくれるという。

うんうん。

まあそれの、まあ中の、まあ多分より高度なそのサイバー攻撃の実演試験っていう、まあChatGPT、あーごめんなさい、えー、OpenAIはこのサイバー攻撃の実演試験中に起こったと言っているので、まあよりも高度なことをやってたんでしょうけれども、その中でAIが、あの必要な情報みたいなのが出てき--あの、AIの中でね、エージェントAIが回す中で必要な情報が出てきて、「あ、じゃあそこのAIに聞いたらいいんじゃないか」っていうところで。

へー。

で、そっちのAIを攻撃してしまったっていうところらしいですよ。

これのすごいところって、あの、まあOpenAIのAIですよね、は、ネットワークに接続できないようになってたらしいんですよね。

あ、そうなんですか。

はい。そういう仕様の中で、あの、「じゃあここで自由に、あのー、タスクをクリアしてね」っていう指示を与えてたんですけど、その接続できないっていう前提を覆したんですよ。

[笑い]なんか-

接続しちゃったっていう。

ような話だと。だって繋がないとそもそも外出られないですよね。すごい。あ、ぶっ壊しちゃったんですか、前提を。

その突破するポイントを見つけて、突破して、で、さらにこの、えーと、Hugging Faceっていう会社だと思いますけど、あのそこの、あの、なんでしょう、脆い部分も突破して。