「生活に戦争と同じダメージが出る可能性が」公開見送りになった最新AI「ミュトス」本当の“脅威”を専門家が解説

アンソロピックのAIエージェント「クロード」（写真：共同通信）

「サイバーセキュリティにおける、新たな脅威に直面している状況だと認識しています」

4月28日の定例記者会見で木原稔官房長官は、「新たな脅威」として、最先端人工知能（AI）の悪意ある使用により、官民の重要インフラに影響が出ることについて危惧を表明した。

念頭にあるのは、米国の新興企業・アンソロピックが開発した最新生成AIの「クロード・ミュトス」だ。

これまでもChatGPTなど、話題となるAIは数々、発表されてきたが、ミュトスはそういったモデルと何が違うのか。立教大学大学院・人工知能科学研究科の大庭（おおば）弘継特任教授に話を聞いた。

「ウィンドウズなどのOS（基本ソフト）を含め、ソフトウェアにはさまざまな“脆弱性”が存在します。アンソロピックが公開した資料によれば、ミュトスは、これらソフトウェアの、まだ発見されていない脆弱性、いわゆる“ゼロデイ”を自律的に、しかも複数を瞬時に発見することができるとされています。

つまり、発見した複数のゼロデイを自ら組み合わせ、既存のサイバー攻撃を上回る高度な攻撃を短時間におこなうことが可能になると懸念されているのです」

現状、アンソロピックは「ミュトスは危険すぎる」という立場から、全面公開を見送り「Project Glasswing」という業界団体のメンバーに限定して公開している。そのため、詳細については研究者の間でも「不明な点が多い」（前出・サイエンスライター）とされているが、日本国内では金融庁、日本銀行、日本取引所グループ、メガバンク3行が、脅威への対策を検討する合同会議を開くなど、ミュトスをめぐる動きが慌ただしくなっている。

ミュトスが開発されたことについて「『来るべきものが、ついに来たな』という印象はあります。たとえれば、感染症の治療薬を作っていたら、毒薬ができてしまったということでしょうか」と話す大庭教授に、ミュトスがもたらす危険性を指摘してもらった。

「日本政府としては、重要インフラへのサイバー攻撃を心配しているでしょう。

もし、かりにそういった重要インフラが、インターネットがつながっていない、いわゆる『オフライン』で運用されているならば問題ない、というわけでもありません。2010年、イランの核濃縮処理施設で働く研究員が、外部とつながる私用パソコンに『スタックスネット』というマルウェア（悪意がある）型のウイルスを入り込ませ、そこから、研究員が公私で共用するUSBがウイルスに感染しました。

研究員は感染したことに気づかず、研究施設にある、外部と遮断されたパソコンにUSBを差し込んでしまいます。このウイルスには、施設で使用する遠心分離器の回転速度や、回転角を変えるプログラムが仕込まれており、知らぬ間に設定が変わってしまった遠心分離機は、半年後に故障。このウイルスも、ゼロデイを突いたプログラムだったため、当時、イランは『処理施設が故障した』という程度の認識しか持てず、サイバー攻撃を受けたことすら気がつかなかったのです。

『コードプログラムマルウェア』といって、“文字列の塊”を変えることで、ウランの核濃縮処理施設を破壊できてしまうことを証明したわけですが、ミュトスも同様のことを高度に実行できる可能性があるのです。こうしたことから情報通信、金融、航空、電力、ガス、クレジットなど、NISC（内閣サイバーセキュリティセンター）が定める14分野の重要インフラが、攻撃対象となりうる可能性が指摘されています。

もし実行されれば、私たちの生活に、戦争で爆撃を受けたのと同じようなダメージが出る可能性もあります」

また今後、ミュトスを超える能力を持つ生成AIが出現することも十分に考えられるという。

「もはや生成AIの発展は不可逆的で、止めることはできません。世界中の人が手を取り合って『開発をやめよう』ということは現実的に不可能ですし、AIを開発する各国がルールを守るかも、非常に疑問です。

ミュトス自体は、ほかのAIモデルと比較しても、倫理テストでは高い点数を取っており、“真面目”で“お利口”なAIで、ユーザーが悪用しようとしても指示を拒否したり、暴走したりすることも少ないようです。ただ今後、ほかのAIモデルも同様の能力を獲得する可能性があり、それがミュトスと同じように真面目であるかどうかはわかりません。

2024年にノーベル物理学賞を受賞したジェフリー・ヒントン氏などは、かつて生成AIの急速な発展に対して警鐘を鳴らしていましたが、そういった議論がより活発になる可能性もあるでしょう」（大庭教授）

生成AIの開発競争は、新たな段階に入ったようだ。