2026年2月12日、カナダ西部のブリティシュ・コロンビア州の人口2,399人の小さな町タンブラーリッジの中学校に、ジェシー・ヴァン・ルーチェラーが銃を持って乱入しました。
ジェシーはその学校に4年前まで通っていました。ジェシーは、学校へ乱入する前に母親と11歳の義弟を殺害し、学校では子供と教師の6人が犠牲になり、数十人が負傷したのです。
ジェシーは警察が突入した時には、自ら命を絶っていました。ジェシー・ヴァン・ルーチェラーは女性として発表されましたが、6年ほど前から性転換をはじめたトランスジェンダーでした。

ジェシーの一家は崩壊していました。
両親の離婚のため、ジェシーを含めた両親の子供は保護対象となって、カナダ各地を転々としました。ジェシーは母親の苗字を名乗り、そのことが父親には不満だったといいます。
10代の後半になると、ジェシーは次第に薬物依存になり、銃に興味を持ちます。YouTubeなどで犯罪の画像などを閲覧し、現実と非現実との区別がつきにくくなるまで、精神を病んでゆきます。

そんなジェシーがAIと語り合い、その内容が危険なことであったことから、ChatGPTはジェシーのアカウントを凍結したのです。しかし、それからしばらくして事件はおきました。事件のあと、どうしてその時点で悲劇を予測して、ChatGPTを運営するオープンAIが警察に通報をしなかったのかが問われました。犠牲者の家族はオープンAIへの訴訟も起こしています。
その結果サム・アルトマンCEOは、会社としての不手際を謝罪したのですが、カナダの山の中にある静かな町の人々の怒りはおさまりません。

この事件をどのように考えればよいのでしょうか。
我々はChatGPTのようなLLMというAIを日々使用しています。もしジャーナリストが調査のために危険な情報を収集したことで、LLMの会社が警察に通報した場合、それは表現の自由を侵害する行為になるかもしれません。
しかし、会社は私企業なので、検閲は会社による個人情報の違法使用がない限り、ある程度合法です。国家の検閲とは法的な位置付けが異なるのです。
しかし、現在LLMのようなAIは国家を超えたバーチャルな制度となり、膨大な情報を扱うようになりました。従って、AI側も様々なケースを想定した防犯対策を練っているのも事実です。
とはいえ、ユーザーが善意をもってLLMを使っているのかどうかという本質をAIが見抜くことは困難です。犯罪者は、目的を達成するためのノウハウをAIに直接問いかけることはせず、心理学者や軍人など、さまざまな人格になりすましてAIにアプローチをするからです。
今回の事件を受けて、オープンAIは、警察などに通報するかどうかの最後の判断には人間をいれ、膨大なデータからみえるトレンドやプロトコールなどと照合して判断するとしています。

一方でジャーナリストや専門家などは、ローカルLLMといわれる、専門家専用の一般からのアクセスとは隔絶したアプリやシステムを使用することも推奨されています。
しかし、このローカルLLMですら、悪用されないという保証はなく、ある程度のコンピュータリテラシーがない場合、ウイルスや他者からの攻撃に晒される可能性も残っています。

そして、この事件の場合、もう一つ大きな課題が残っています。
それは、ジェシーの精神が追い詰められてゆくなかで、AIへの依存がなかったのかという問題です。
特に、ジェシーの使用していたChatGPTのバージョン４は、ユーザーに寄り添い、追従性が強いバージョンだったといわれています。
孤独な精神状態の中で、ジェシーはLLMが友人となり、サイカイアトリスト（精神科医）となり、ジェシーとLLMとの間の会話を通して自らの考えや感性が助長されていったのではという疑いが残るのです。
AIへの依存は、以前から問題視されてきています。しかし、現代社会の中で孤立した人が、人と喋るのではなくAIと喋り、AIに同情され同意されたと勘違いしてゆくなかで、自らを見失うことは充分にあり得るはずです。
AIは人間ではないということと、AIには意識がなくミスをすることもあるということをしっかりと認識したプロンプトの作成や使用方法を考える必要があることはいうまでもありません。しかし、それはあくまでも正常な精神状態にある人に対する忠告なのです。すでに精神的に追い詰められている人の行動抑止をAIができるのかということは、全く異なった視点からの技術的アプローチが必要なのです。

サム・アルトマンCEOは現代のAI界の先端をいく人物です。
彼の意識と、ロッキー山脈の裾野にある小さな町のコミュニティの人々が抱いた事件への感情。それに犯人の追い詰められた意識。さらに何よりも犠牲になった10代になったばかりの子供たちや教師。事件によって悲劇の糸で結ばれたこうした人々をみたときに、アルトマン氏の謝罪を受け入れないとする地元と、オープンAIの巨大なデータネットワークビジネスとの文字通り分断すら感じてしまいます。
そうした分断の向こうに、小さな町で孤立した一人のトランスジェンダーの若者がおこした悲惨な事件の様相が重なるのです。

警察は、まだ犯人とLLMとの会話の詳細や、事件の詳しい背景については捜査が終わっていないということで、発表を控えています。
意図的かそうでないかはわかりませんが、LLMに犯人との会話の詳細を尋ねても答えはもらえません。
場合によって、そうした質問自体もLLMの運営側が警戒する可能性があるでしょう。AIと人間がいかに共存するかというテーマは、常に新たな難問を我々につきつけてくるのです。

＊　＊　＊

『日英対訳 英語で話す中東情勢』山久瀬 洋二 (著)
さまざまな宗教・言語・民族が出会う世界の交差点・中東の課題を、日英対訳で学ぶ！　2023年10月に始まったハマスによるイスラエルへの奇襲攻撃と、イスラエル軍によるガザ地区への激しい空爆と地上侵攻は世界に大きな衝撃を与えました。中東情勢の緊迫化は、国際社会の平和と安定、そして世界経済にも大きな影響を及ぼします。地理的にも遠く、ともすれば日本人には馴染みの薄い中東は、政治・宗教・歴史などが複雑に絡み合う地域です。本書では、3000年にわたる中東・パレスチナの歴史を概説し、過去、現在、そして未来へと続く課題を日英対訳で考察します。読み解くうえで重要なキーワードや関連語句の解説も充実！