AIが間違えたら誰の責任か — 責任概念の再考

この記事のポイント
- AIの誤りの責任は最終的に人間の側に残る。ストローソンの言う憤りや謝罪のやりとりに入れないAIは、責任を問われ応答する関係の当事者になれないからである。
- アリストテレスの制御と認識の条件を当てはめると、開発者も利用者もAIも条件を十分に満たさず、マティアスが「責任の空白」と名づけた隙間が生じる。
- ヨナスの未来への責任に従えば、過去を非難する後ろ向きの責任より、被害を防ぎ救済する仕組みを多くの手で担う前向きの責任が求められる。
はじめに — 「AIがそう言ったので」
2023年、アメリカの裁判で、ある弁護士が提出した書面に、実在しない判例がいくつも引用されていたことが発覚しました。弁護士は生成AIに判例を調べさせ、その出力を確認せずに使っていたのです。裁判所は弁護士らに制裁を科しました。
この出来事を笑い話として片づけるのは簡単です。しかし似たようなことは、私たちの身の回りでも日々起きています。AIが要約した資料をそのまま会議に出す。AIが書いたコードを動くからといって本番に入れる。AIの採用スクリーニングが特定の属性の応募者を不利に扱っていたことが、後になって判明する。そのとき、私たちはつい「AIが間違えた」と言ってしまいます。
では、本当に責任を負っているのは誰なのでしょうか。AIを作った開発企業でしょうか。AIを使った人でしょうか。それともAIそのものでしょうか。この問いを考えると、私たちがふだん当たり前に使っている「責任」という言葉が、実はかなり複雑な前提の上に成り立っていることが見えてきます。
アリストテレス — 責任が成り立つ二つの条件
責任について体系的に考えた最初の哲学者の一人が、アリストテレスです。『ニコマコス倫理学』第3巻で、彼は人が称賛や非難に値するのは「自発的な」行為についてであると述べ、行為が自発的でなくなる場合として二つを挙げました。一つは外から強制された場合、もう一つは自分が何をしているのかを知らなかった場合です。
ここから、現代の倫理学でもよく使われる責任の二つの条件が取り出せます。
- 制御の条件 — 行為者がその行為を自分で左右できたこと
- 認識の条件 — 行為者が自分のしていること、その結果を知りえたこと
この枠組みをAIに当てはめると、困った事態が生じます。現代の機械学習システムは、開発者が一つひとつの判断を書き込んでいるわけではありません。大量のデータから学習した結果として出力が生まれるため、開発者自身も、特定の場面でAIが何を出力するかを正確には予測できません。つまり開発者は、個々の出力について制御の条件も認識の条件も十分には満たしていないように見えます。
一方、利用者はAIの内部の仕組みを知りませんし、出力を生み出す過程を制御してもいません。そしてAI自身には、自分の出力が何を意味するかを理解しているとは言いがたい。こうして、誰も責任の条件を満たさない隙間が生まれてしまうのです。
強制によって、あるいは無知のゆえに生じることは、不本意的なものと考えられる。
「責任の空白」と「多くの手」
哲学者アンドレアス・マティアスは2004年の論文で、この事態を「責任の空白(responsibility gap)」と名づけました。学習し、自ら振る舞いを変える機械が増えるほど、伝統的な責任の考え方では誰にも責任を帰属できない場面が増えていく、という指摘です。
この問題は、AIに固有のものではありません。政治哲学者デニス・トンプソンは1980年の論文で、巨大な組織の中で多くの人が少しずつ関わった結果として害が生じたとき、誰一人として全体の責任を負っていないように見える状況を「多くの手の問題」と呼びました。その後、情報倫理学者ヘレン・ニッセンバウムは、コンピュータ化された社会ではこの問題がさらに深刻になると論じています。
AIの開発と利用には、データを集めた人、モデルを設計した人、それを製品に組み込んだ人、導入を決めた人、実際に使った人など、無数の「手」が関わっています。誰もが自分は全体のほんの一部を担っただけだと言える。そして最後に残るのが、「AIが間違えた」という言葉なのです。
アーレントの「誰でもない者の支配」
この構造の危うさを鋭く見抜いていたのが、アーレントです。彼女は『暴力について』(1970年)の中で、官僚制を「誰でもない者による支配(rule by Nobody)」と呼び、それが最も暴政的な支配になりうると論じました。誰にも責任を問えない支配のもとでは、人は抗議する相手さえ見つけられないからです。
アーレントは『エルサレムのアイヒマン』で、命令に従って職務をこなしただけだと主張する人間が、いかに巨大な悪に加担しうるかを描きました。AIの判断に従っただけだ、システムがそう判定したのだ、という言い方は、この「歯車の論理」の新しい形になりかねません。責任の所在があいまいになることは、単に法律上の不便ではなく、人間が自分の行為について考えることをやめてしまう危険と結びついているのです。
ストローソン — 私たちはAIに「憤る」ことができるか
では、いっそAIそのものに責任を負わせればよいのでしょうか。この問いを考えるうえで手がかりになるのが、イギリスの哲学者P・F・ストローソンの論文「自由と憤り」(1962年)です。
ストローソンは、責任という概念の根を、形而上学的な自由意志の有無にではなく、人間どうしの関係の中で自然に生じる「反応的態度」に求めました。誰かに足を踏まれたとき、それがわざとなら私たちは憤り、うっかりなら謝罪を受け入れ、親切にされれば感謝する。こうした憤り・感謝・許しといった態度のやりとりこそが、責任を問い、責任を負うという実践の中身だというのです。
この観点から見ると、AIに責任を負わせるという考えの奇妙さが見えてきます。AIの誤りに私たちは苛立ちますが、それはコピー機が紙詰まりを起こしたときの苛立ちに近く、相手の悪意や無関心に向けられた「憤り」とは性質が違います。AIは私たちの憤りを受け止め、弁明し、謝罪し、態度を改めるという関係に入ってくることができません。責任とは、問われたときに応答できる者のあいだで成り立つ関係なのだとすれば、AIは少なくとも現在のところ、その関係の当事者にはなれないのです。
カントの言葉で言えば、道徳的な責任を負うのは、自ら立てた法則に従って行為できる自律的な人格です。与えられた目的に向けて最適化された出力を返すシステムは、どれほど賢く見えても、この意味での人格とは言いにくい。だからこそ、AIの誤りの責任は、最終的には人間の側に引き戻して考えなければなりません。
人格とは、その行為について責任を帰されうる主体である。
ヨナス — 過去を裁く責任から、未来に備える責任へ
それでも、「誰が悪かったのか」を突き止めようとするかぎり、責任の空白は埋まらないかもしれません。ここで視点を変えてくれるのが、ドイツ出身の哲学者ハンス・ヨナスです。
ヨナスは『責任という原理』(1979年)において、現代の科学技術がもたらす影響は、空間的にも時間的にも、個人の行為の範囲をはるかに超えてしまったと論じました。従来の倫理学は、目の前の他者に対する行為の善悪を問うものでした。しかし技術の力が地球規模で未来の世代にまで及ぶ時代には、起きてしまったことを裁く責任だけでなく、まだ起きていないことに備える責任が必要になる。ヨナスはその原型を、無力な乳児に対する親の責任に見いだしました。責任とは、自分の力の及ぶ範囲にある傷つきやすいものを、損なわれないよう配慮することなのです。
この考え方は、気候倫理と未来世代の問題でもよく参照されますが、AIの問題にもそのまま当てはまります。AIの出力を一つひとつ予測することはできなくても、どのようなデータで学習させるか、どのような場面で使うことを許すか、誤りが起きたときにどう検証し、誰が被害を救済するか、といった仕組みを整えることはできます。過去を振り返って非難する「後ろ向きの責任」から、被害を防ぎ救済する仕組みをつくる「前向きの責任」へ。責任の空白を埋めるのは、この転換なのかもしれません。
責任を「引き受ける」ということ
政治哲学者アイリス・マリオン・ヤングは、遺著『正義への責任』(2011年)で、構造的な不正義に対する責任を「社会的つながりモデル」として捉え直しました。誰か一人の過失に原因を帰することができない不正義であっても、その構造に関わり、そこから利益を得ている人々は、構造を変えるために共同で取り組む責任を負う。この責任は、罪を償うことではなく、これから何をするかに向けられたものです。
日本語で「責任を取る」と言うと、しばしば謝罪や辞任のことが思い浮かびます。しかしAIの時代に求められているのは、誰か一人を罰して終わりにすることよりも、関わる人々がそれぞれの持ち場で応答し続けることでしょう。開発者は検証と説明の仕組みを、企業は被害を救済する体制を、社会はルールを、そして利用者は出力を鵜呑みにしない習慣を。責任の空白は、誰かが一人で埋めるのではなく、多くの手が少しずつ引き受けることで埋まっていくのです。
AIを道具と見るか、それ以上のものと見るかという問題は別のコラムでも扱いましたが、責任という観点から見るかぎり、少なくとも一つのことは言えそうです。AIを使うことは、判断を手放すことではなく、判断の一部を道具に預けることだ、ということです。預けたものの行方を見届ける責任は、預けた側に残り続けます。
おわりに — その答えは、誰の答えか
冒頭の弁護士は、AIの出力を「自分の答え」として裁判所に提出しました。その瞬間、それはもうAIの答えではなく、彼自身の答えになっていたのです。
私たちも、毎日のようにAIの答えを受け取り、それを誰かに渡しています。メールの文面、報告書の要約、子どもの宿題の手助け。そのとき、私たちはその答えを自分のものとして引き受ける覚悟を持っているでしょうか。それとも、何かあったら「AIがそう言ったので」と言えるように、どこかで逃げ道を残しているでしょうか。
AIが間違えたら誰の責任か。この問いは、裏返せば、AIと一緒に生きる私たちが、自分の判断のどこまでを自分のものとして引き受けるのか、という問いでもあります。あなたは、どこに線を引きますか。
責任倫理の格率に従うなら、人は自分の行為の予見しうる結果について、責めを負わねばならない。