AIエージェントに判断を任せてよいか — 委任と責任、そして「思慮」の哲学

この記事のポイント
- AIエージェントに作業は任せてよいが、何のために誰の責任で行うかという判断の引き受けは手放せない。委任とは判断を捨てることではなく、引き受け直すことである。
- ホッブズは『リヴァイアサン』で、代理人の言葉と行為を自分のものとして引き受ける者を「本人」と呼んだ。任せても、結果の責任は任せた側に残る。
- アリストテレスの思慮は個別の状況で善を見きわめる経験の力であり、カントが警告した「未成年状態の気楽さ」に陥らないには、自分で判断する習慣を保つ必要がある。
はじめに — 「おまかせ」の誘惑
朝、AIアシスタントに「来週の出張、いい感じに手配しておいて」と頼む。AIは予定表を読み、候補の便を比べ、ホテルを予約し、先方への到着連絡のメールまで書いて送っておいてくれる。人間はあとで「完了しました」という通知を確認するだけです。
質問に答えるだけのAIから、目的を与えられると自分で手順を組み立て、アプリを操作し、実際に行動まで済ませてしまう「AIエージェント」へ。技術の重心は、答えることから代わりに行うことへと移りつつあります。
これはたしかに便利です。しかし、ふと引っかかることもあります。AIが選んだ便は、本当に私が選んだはずの便だったのか。AIが送ったメールの言い回しで相手が気分を害したら、それは誰の失礼なのか。そもそも、何を自分で決め、何を任せてよいのか、その線引き自体を私たちは誰が引いているのでしょうか。
この問いは新しいようで、実は哲学の古い問いの延長線上にあります。人間はずっと、秘書や弁護士や医師に、さらには国家にまで、判断を委ねて生きてきたからです。
委任は昔からある — ホッブズの「本人」と「代理人」
他人に代わって行為させるとはどういうことかを、正面から理論にした哲学者の一人がホッブズです。『リヴァイアサン』(1651年)第16章で、ホッブズは「人格(person)」を論じ、他人の言葉や行為を代わりに担う者を「代理人(actor)」、その言葉や行為を自分のものとして引き受ける者を「本人(author)」と呼びました。
ホッブズにとって重要なのは、代理人が本人の「権威(authority)」によって行為するとき、その行為は本人のものになる、という点です。代理人が結んだ契約は本人を拘束します。ホッブズはこの論理を用いて、主権者が人々の代理として行為し、人々がその行為の本人となる、という国家の理論を組み立てました。
その言葉と行為を自分のものとして引き受ける者が「本人」であり、その場合、代理人は権威によって行為している。
この枠組みをAIエージェントに当てはめると、話はひとまず明快です。AIが私の名で予約し、私の名でメールを送るなら、その行為の「本人」は私です。任せたからといって、責任まで手渡したことにはならない。少なくとも法や社会の側から見れば、そう扱われるのが自然でしょう。
しかし、ホッブズの代理人は人間でした。人間の代理人なら、指示があいまいなとき「これでよろしいですか」と確認し、明らかにおかしな命令には「それは本人のためにならない」と抵抗することもできます。AIエージェントは、こちらの漠然とした意図を、ときに驚くほど字義どおりに、ときに思いもよらない形で補って実行します。このとき「自分のものとして引き受ける」ことは、どこまで可能なのでしょうか。私は、自分が何を引き受けたのかを、本当に知っているのでしょうか。
規則にならない判断 — アリストテレスの思慮
AIに任せてよいかを考えるうえで、アリストテレスの「思慮(フロネーシス、phronēsis)」という概念は欠かせません。『ニコマコス倫理学』第6巻でアリストテレスは、学問的な知(エピステーメー)や技術(テクネー)と区別して、行為にかかわる知としての思慮を論じました。
思慮とは、人間にとって善いことと悪いことにかかわる、ことわりを伴った真なる行為の状態である。
思慮の特徴は、それが個別的なものにかかわる点にあります。アリストテレスは、若い人でも幾何学者にはなれるが、思慮ある人にはなりがたいと述べました。思慮は一般的な原則だけでなく、目の前の具体的な状況にかかわり、それは経験を通じてしか知られないからです。
さらにアリストテレスは、法について興味深いことを言っています。法は一般的な形でしか語れないが、個々の事例のなかには、一般的な言い方では正しく扱えないものがある。そのとき、立法者がその場にいたならこう定めたであろう、という仕方で法を補うのが「公平(エピエイケイア)」だ、と(第5巻第10章)。
AIエージェントへの指示は、この意味での「法」に似ています。「安いほうを選んで」「丁寧な文面で」という指示は一般的です。けれども、今回は少し高くても相手の会社に近いホテルのほうがいい、今回の相手には丁寧すぎる文面はかえって冷たく響く、といった判断は、状況のなかでしか下せません。思慮とは、まさにこの「指示に書ききれない部分」を埋める力です。
もちろん、AIも大量の事例から「こういう場合にはこうする」というパターンを学び、ある程度は状況に応じた振る舞いを見せます。人間の判断のほうが偏りや思い込みにまみれていることも少なくありません。ですから、「AIには思慮がないから任せてはいけない」と一刀両断するのは早計です。問題はむしろ、思慮が使われることで育つ力だという点にあります。アリストテレスによれば、徳も思慮も、実際にそれを働かせる経験の積み重ねによってしか身につきません。判断をすべて任せてしまえば、判断する力そのものが育つ機会を失うのです。
技術は判断の枠組みを変える — ハイデガー、ヨナス、三木清
ここで、技術そのものについての哲学に目を向けてみましょう。ハイデガーは講演「技術への問い」(1953年)で、近代技術を単なる道具としてではなく、世界の現れ方そのものを変えるものとして考えました。近代技術のもとでは、自然も人間も、いつでも呼び出して使える「用象(Bestand)」として、つまり在庫として立ち現れてくる。ハイデガーはこの総体を「集-立(Ge-stell)」と呼びました。
この見方をAIエージェントに重ねると、別の問いが見えてきます。私たちの予定、人間関係、好みが、最適化の対象として整理され、いつでもAIが処理できる「在庫」として扱われるとき、何かを「決める」という経験そのものが、選択肢の比較と最適解の算出へと置き換えられてしまわないか。任せるかどうか以前に、任せられる形に生活を整えること自体が、すでに世界の見え方を変えているのかもしれません。
一方、ハンス・ヨナスは『責任という原理』(1979年)で、伝統的な倫理学は行為の結果が身近な範囲にとどまることを前提にしてきたが、現代の技術は行為の影響を空間的にも時間的にもはるかに遠くまで広げてしまった、と論じました。だからこそ、遠い将来や見えない他者に対する新しい責任の倫理が必要だ、というのです(ヨナスについては気候変動と将来世代の倫理のコラムも参照してください)。
AIエージェントが一人ひとりの代わりに無数の小さな行為を積み重ねるとき、その影響は誰の目にも見えにくくなります。学習するシステムの振る舞いは設計者にも完全には予測できないため、誰にも責任を帰せない「責任の空白(responsibility gap)」が生じるのではないか、という問題も、2000年代から技術倫理の分野で論じられてきました(AIが間違えたら誰の責任かのコラムでも詳しく扱っています)。
日本の哲学者では、三木清が『構想力の論理』や『技術哲学』(1942年)で、技術を、人間という主体と環境とを媒介し、新しい「形」をつくり出す働きとして捉えました。この見方に立てば、技術は人間から切り離された外部の道具ではなく、人間が世界とかかわる仕方そのものの一部です。AIに判断を任せるとき、私たちは道具を使っているだけでなく、自分と世界との関係の形をつくり変えているのです。
「任せる」ことと「手放す」ことの違い
ここまでの議論を整理すると、AIエージェントに任せることの是非は、「AIは賢いか」という問いだけでは決まらないことがわかります。考えるべきなのは、少なくとも次の三つの区別でしょう。
一つめは、作業を任せることと、目的を任せることの違いです。航空券の空席を探し、料金を比べ、予約手続きをするのは作業です。しかし、そもそもこの出張は必要か、オンラインで済ませるべきではないか、という問いは目的にかかわります。アリストテレスの言葉で言えば、思慮は手段を選ぶだけでなく、何が善い目的であるかを見失わない力でもありました。
二つめは、取り消せることと取り消せないことの違いです。予約は取り消せても、送ってしまった言葉や、誰かとの関係のなかで失われた信頼は、簡単には取り戻せません。取り返しのつかない判断ほど、人間が最後に確かめる必要があります。
三つめは、引き受けられることと引き受けられないことの違いです。ホッブズの枠組みに戻れば、代理人の行為が私のものになるのは、私がそれを自分のものとして引き受けるからでした。中身を理解しないまま承認ボタンを押すことは、形式のうえでは引き受けでも、実質的には何も引き受けていないのと同じです。
人間はどこまで自律できるかという問いが示すように、私たちは完全に自分だけで判断して生きることなどできません。医師の診断を信頼し、地図アプリの経路に従い、専門家の意見に頼ることは、合理的な知の分業でもあります。問題は任せることそのものではなく、任せていることを忘れてしまうことにあるのです。
おわりに — 未成年状態の気楽さを超えて
カントは1784年の論文「啓蒙とは何か」で、啓蒙を「人間が自ら招いた未成年状態から抜け出ること」と定義しました。ここでいう未成年状態とは、他人の指導なしには自分の知性を用いることができない状態です。カントによれば、その原因は知性の欠如ではなく、怠惰と臆病にあります。そして彼は、未成年状態にとどまることがいかに快適かを、皮肉をこめて描きました。
未成年でいるのは実に気楽だ。私の代わりに知性をもつ書物、私の代わりに良心をもつ牧師……があれば、自分で骨を折る必要などない。
240年前のこの文章は、驚くほど現在に当てはまります。「私の代わりに知性をもつAI」がいれば、自分で骨を折る必要はない。けれどもカントは、書物を読むなとも、医師に頼るなとも言っていません。彼が問題にしたのは、他人の判断を借りることではなく、自分の知性を用いる勇気を失うことでした。カントの倫理学の中心にある「自律(Autonomie)」とは、他から与えられた規則ではなく、自分の理性が自分に与える法則に従うことです。それは何でも一人でこなすことではなく、どんな助けを借りるときにも、最終的な判断の主体であり続けることを意味します。
AIエージェントに任せてよいのは、私たちがあとからその結果を「自分のもの」として引き受けられる範囲まで、と言えるのかもしれません。そしてその範囲を決めるのは、AIではなく、私たち自身の思慮です。
最後に、あなた自身に問いを返したいと思います。昨日あなたがAIやアプリに任せた小さな判断を、いくつ思い出せるでしょうか。そのうちのどれを、もし誰かに理由を尋ねられたら、自分の言葉で説明できるでしょうか。