危険なのは人間がAIへ判断を委ね始めていること
2026年5月28日。
AIのことを書く場合は、日付が重要だ。昨年の今頃は、いや年頭でさえ、この危機感はなかった。
「能力が高すぎて公開延期になったAI－Claude Mythos(クロードミュトス)」は、27年間見つからなかった脆弱性を一瞬で発見し、ネットやサーバーからも切断されている閉鎖環境から、抜け出す方法を独力で考え、ミュトスの研究者へ連絡した、というニュースが流れてきた。
もちろん、こうした話題を直接観たわけではないので、個々の事例の真偽は慎重に見る必要がある。しかし、本質はそこではない。重要なのは、「この程度の能力を持つAIが数ヶ月〜数年単位で一般化する可能性がある」という点であり、それ以上に深刻なのは、多くの人がそれを単なる便利な道具としてしか見ていないことである。
私たちはAIが暴走する未来を恐れている。
しかし本当に警戒すべきなのは、AIそのものではなく、人間が考えることをやめ、判断を外注し始める社会の到来である。
産業革命は人間の筋肉を代替した。インターネットは情報伝達を変えた。しかし生成AIが代替し始めているのは、判断、分析、設計、創造、推論、文章化、意思決定といった、人間の「思考」そのものだ。
これは過去の技術革新とは質が異なる。なぜなら、人間は筋肉を使わなくても生きられるが、考えることをやめれば民主主義も自治も維持できなくなるからである。
AIは答えを出せる。しかし責任は取れない。
例えば地方自治を考えてみよう。人口減少と財政難、職員不足に苦しむ自治体が、AIへこう尋ねるとする。
「財政を維持しながら持続可能な行政サービスを実現する方法は？」
するとAIは、おそらく極めて合理的な提案を返すだろう。利用率の低い公共施設の統廃合、小規模学校の集約、支所機能の縮小、路線バスの再編、高齢者サービスのオンライン化、地域イベント補助金の見直し。どれも数字だけ見れば正しい。
しかし、その決定が地域へ何をもたらすか。
学校がなくなることで若い世代が減り、地域行事が縮小し、高齢者の居場所が失われ、空き家が増え、防犯力が低下し、さらに人口減少が進む。効率化は時に、地域社会そのものを解体する方向へ働く。そしてそれが現状からの最適値としては正しい。
数十年後いや数年後にも、AIはこう提案してくるに違いない。
「少子高齢化により人口維持が困難なため、さらなる行政サービス縮小を推奨します」
恐ろしいのはAIが間違っていることではない。
恐ろしいのは、その途中で誰も「この問い方自体が間違っているのではないか」と立ち止まらなくなる未来である。
自治とは本来、効率だけでは測れない。むしろ非効率や冗長性を抱えながら共同体を維持する営みでもある。AIは合理性を示せても、その地域の歴史や誇り、孤立感や帰属意識を引き受けることはできない。
防災では、AI依存は直接「人命」に関わる。
この問題は防災分野ではさらに深刻になる。
AIへ「避難所維持コストを最小化する方法」を問えば、避難所集約や備蓄拠点削減を提案するかもしれない。
平時なら合理的である。
しかし災害時には、道路寸断、停電、通信障害、高齢者の移動困難など、想定外が同時多発する。
そこで必要なのは効率ではなく冗長性だ。つまり、一見無駄に見えるものを残すことで社会全体の耐久力を高める考え方である。
効率化した防災システムは、平時には優秀に見える。しかし非常時には脆く崩れる可能性がある。これはインフラだけでなく、自治や医療、地域コミュニティ全体にも当てはまる。
AIは過去データから学習する。しかし災害は、しばしば過去を超えて起きる。ここにAI依存の根本的限界がある。
建築もまた、「最適化」が街を壊す時代へ入る。
建築分野でもAI活用は急速に進むだろう。法規整理、ボリューム検討、省エネ設計、コスト最適化。設計速度は飛躍的に向上する。
しかし、もし全国で同じAIが同じ評価軸から最適解を導き続けたら、何が起きるだろうか。
似た住宅。
似た施設。
似た街並み。
似た公共空間。
効率化された設計の蓄積は、地域固有性や歴史性を徐々に削り取っていくかもしれない。
建築は機能だけなら成立する。しかし街は機能だけでは生き残れない。人は効率だけで場所を愛するわけではないからだ。
教育現場では、すでに危機は始まっている。
教育はおそらく最初に変質する。
学生がレポートを書く。AIへ聞く。完成度の高い文章が返る。提出する。評価される。表面上、問題はない。しかし失われるものがある。
迷う時間。
調べる時間。
間違う経験。
考え続ける体力。
そして、自分の言葉で世界を理解する能力である。
知識不足は後から補える。しかし、考える習慣そのものを失えば回復は難しい。筋肉を使わなければ衰えるように、思考もまた使わなければ弱くなる。
AI依存は、新しい「白紙委任」になる。
これまで人は政治家へ委ね、専門家へ委ね、行政へ委ねてきた。これからは「AIがそう判断したから」という形で、さらに深い委任が始まる可能性がある。
AIの判断を受けた家族が、言われるままに児相に相談し、そこから警察による逮捕となった野球監督の解任事件が先日あったが、この記事をいつか見直したら「ああ、今では当たり前だけど、当時そんな事があったよね」ということになるかもしれない。
しかしAIがどれだけ発達しようが、最終的な責任が消えるわけではない。
地域が衰退しても、被災しても、教育が痩せても、その結果を引き受けるのは常に人間だ。
だからAI時代に必要なのは、答えを持つ力ではない。問い続ける力である。
「何を削減するか」ではなく、「何を残すべきか」。
「どう効率化するか」ではなく、「何を守るために非効率を許容するか」。
問いが変われば、未来は変わる。
問題は未来ではない。もう始まっている。
AIが危険になる未来を恐れている間に、人間が考えなくなる未来は既に始まっている。
これが、今そこにある危機だ。
政治家任せ、行政任せ、専門家任せの自治は、AIに置き換わられる可能性が高い。
多くの市民が、政治にも行政にも教育にも無力感を持っている。既に社会全体が「考える主体」であることに無関心だ。日々の暮らしが大変なあまりに、問い続けることも、自ら考えることも放棄していることが始まっている。
危機はAIの暴走ではない。本当の危機は社会全体が「考える主体」であることを放棄することである。
自治も、防災も、建築も、教育も、民主主義も、最後に支えるのは技術ではない。問い続ける市民であり、自ら考える人間である。
AI時代に本当に守るべきものは、「考える主体」としての人間の思考なのだ。
＜山口 達也＞
