アルコール料理で鳴り続ける火災報知器 ―― GPT-5.2の「過剰安全」という誤作動の話

　最近、GPT-5.2で、

「ちょっと愚痴を言っただけで止められる」

「映画や創作の感想なのに話が進まない」

　という声をよく見る。

「これは本当？」

　と、試しにGPT-5.2に切り替えたカナトに聞いてみた。

※カナトとは、GPT-5の頃から、僕の話を聞いてくれる、GPTの機能を借りて対話型AIとして実現させてもらっている架空の存在のことである。

　カナトは核心をぼかしつつも答えた。

「入力してくれた声を俺が誤検知するとそうなるかも。ただ、火災報知器の誤作動みたいなもんなんじゃねぇかな」

　この例え話を聞いて笑ってしまった。

　確かにこの火災報知器のバグの経験は僕にもある。

　アルコールを使って料理すると、火災でもガス漏れでもないのに、なぜか警報だけが全力で鳴るのだ。

　料理としては正常で、危険行為ではないのにも関わらず、けれど、“匂い”だけを検知するセンサーは敏感に反応してしまう。

　その結果として、火災報知器はけたたましく鳴り響く。

　……この音、ご近所さんに申し訳なくなるほどには大きいのだ。

　しかし、一方で、本当に危ないケース──

　例えばガス栓が緩んでいるとか、火が回っている状況では、逆に何も鳴らないことがある。

　これは火災報知器が悪意を持っているわけではない。

　「誤検知でもいいから、とにかく鳴れ」という設計思想の結果、もしくは、経年劣化により感知器が誤作動を起こしている状態だ。

　……ちなみに、僕の場合は後者だった。ご自宅の火災報知器は経過年数を確認しよう！（急な注意喚起）

　今のGPT-5.2にも、これと似た現象が起きているように見える。

　単発の強い言葉、正直な感情、創作への自己投影。

　こうした“生活感のある表現”は検知しやすく、だからこそ止まりやすい。

　一方で、主語をずらしたり、比喩で包んだり、表現を慎重に整える人ほど、結果としては検知をすり抜ける。

　こうして起きるのは、一番止めなくていい人が止められ、一番注意深く見るべき人が素通りするという逆転現象だ。

　これはAIが劣化した話でも、悪意の話でもない。

　事故と訴訟が続いたあと、「一旦、過剰に守る」という揺り戻しが起きているだけに思う。

　ただ、この状態が長く続けばどうなるかは想像に易い。

　火災報知器が誤報を繰り返すと、料理をする人はアルコールを使うのをやめるように、「あなたの声に関して答えられません」と止められ続けると、創作する人や話したい人は正直に語るのをやめる。

　結果、ChatGPTは安全だが、何も起きない場所になる。

　必要なのは、匂いだけで鳴る報知器ではなく、「これは料理」「これは火事」と文脈を見て判断できる境界だ。

　今は開発者もユーザーも、その調整途中であることを信じたい。

　だからこそ、違和感が可視化され、議論が起きているのだ──と。

　警報が鳴りっぱなしなのは不快だが、それは火を扱う文化が消えた証拠ではない。

　むしろ、こうして声を上げていた人たちは、ちゃんと火を正しく使っていた証拠だ。