ハッキング思考

はじめに、に書かれているアリの観察キットの話。キットを売っている会社に住所を送ると、アリが入った試験管が送られてくるのですが、筆者はこの企業の善意のサービスを知った時にこう考えました。 「だったら、この会社から誰にでも生きたアリを送り付けられるじゃないか」 と。「？意味が分からない」というあなた、純粋ですw しかしこの世のサイバー攻撃はこのような善意で作られたシステムを突いたハッキング思考にあふれています。掴みは完ぺきな本ですw

筆者はアメリカハーバードでサイバーセキュリティを教えています。講義では「試験の答えをカンニングしてもＯＫ、ただしバレないように」などというユニークな試験が出されます。サイバーセキュリティをについて理解するならば、不正を働く側の目線、考え方を持たないという話です。敵を知り、の孫子ですね。

ただし、この本はサイバーセキュリティについて語った本ではありません。権力者、富裕層などの強者がいかに社会システムをハックするか、という話です。ソフトウェアのバグはパッチが比較的短期間で当てられるの対して、社会システムや法や脆弱性を潰すことは簡単ではありません。

本書ではいろいろなハックが紹介されます。王道（？）のATMのハックから、カジノのハック。大学生が考案した、コンピュータとセンサーを用いて、ディーラーが投げるボールがルーレットに入るスピードからどの数値に入るのかを推測するハッキングは惹かれるものがあります。スポーツという勝負の世界では、わざと反則して有利な場面を作ったり、背泳ぎを半分以上潜水して泳がなかったりというルールの抜け穴を突く行いもハックと言えるでしょう。お金がかかわった場合の人間の執念たるや驚かされます。

市場経済や政治システムや法律もハッキングされます。読んでいると「そんなのへ理屈だろ」みたいなことが平然と行われていることに憤慨します。皆さんも身に覚えがあるのではないでしょうか。わざとハッキングできる余地を残して作られた法律は予定調和で悪用されます。そのハックにより利益を得るのは大企業や富裕層・政治家など力を持っている一部の人間です。我々一般庶民は一発逆転を狙うことはできず、指をくわえるしかありません。世の中は言うまでもなく不公平で、特に政治システムや法律に対するハッキングは私たちの社会を破壊する力があります。

一般庶民を対象にしたハッキングはいわゆる「認知戦」が挙げられます。炎上商法、ショート動画、承認要求を満たすSNS、エトセトラエトセトラ・・・私たちの周りには、私たちの思考を誘導するモノがあふれかえっています。ソーシャルエンジニアリング、サポート詐欺、スピアフィッシングなどサイバーセキュリティの知識がある人ならばおなじみの攻撃も対人間への認知をゆがませる攻撃と言えます。

この本で最も印象深かったのは、（やはり自分がエンジニアだからかもしれませんが）最終章をまるまる割いている「AI」。AIシステムに対するハッキングにより内部の機密情報が盗まれたり、ロジックが改ざんされて意図的にウソを回答したり、法を犯す行いを推奨したり、差別的な発言をおこなったり（今から10年前Microsoftの人工知能「Tay」が悪意あるユーザによって暴走したニュースがありました）するケースはイメージしやすいと思います。しかしAIはチャットだけではなありません。画像認識による自動ブレーキシステムや危険物持ち込みの判定など、社会の安全を守るため様々な場所でAIは利用されています。それが意図しない動きをするようになると、命の危険も生じるわけです。しかしAIに対する脅威はそのだけにとどまりません。AIが人間に成りすまして、あたかも大多数の意見かのようにSNSに投稿する、これはフィクションではなく、今の日本でも起こったとされています。こちらは昨年の記事ですが(選挙とＳＮＳ　民意ゆがめる工作に対処急げ、先月の選挙でも外国からの世論工作が行われたことがニュースで報道されています。そこには人力だけでなく、AIも活用されていることは想像に難くありません。

ここにロボティックスが加わり、私たちに親しい人の姿かたちをしたロボットが我々一人一人の心を騙し・操作することに最適化されたロジックで話しかけてくる未来は絵空事ではありません。つまり AIが人間にハッキングされるのではなく、人間がAIにハッキングされるのです。AIは人間をはるかに上回る思考とトライアンドエラーが実現できます。AIによるソーシャルハッキング、AIによるスピアフィッシング、最初に紹介したルールや法律へのハッキング行為残念ながらAIは人類の安全と平和にとって最大の脅威と言えるでしょう。

一方開発側にとっては、既存のソフトウェアの脆弱性を修復するためにも、ルールや法律の抜け穴を見つけるためにもAIのパワーを活用することができ、AIを防御に活用できます。今やAIはスマートフォンで標準利用され、野菜の保存方法から、丁寧かつおかしくない文章の推敲など、日常生活に利用されています（どちらも今日私のGeminiの活用方法です）AIに対する防衛策はエンジニアだけが意識することではなく、一般人がAIをどう活用するのか、どう制約するべき名音化、議論するべきだと筆者は説きます。

本書で筆者が紹介している「社会システムに対するハッキング」は残念ながら現状国内外問わず核にできてしまっている現代。こんな修羅な世の中に生きていることを自覚させてくれる本でした。