「社会」をつくるのは誰か？――AIエージェントが行為する時代

あるソフトウェア開発者が、オープンソースのプロジェクトに、自分が書いたコードを提案しました（オープンソースでは、外部の開発者が改良案を送り、プロジェクトの管理者が採用するかどうかを判断することがあります）。

しかし、その提案は採用されませんでした。
するとその開発者は、自分の提案を退けた開発者について調べはじめ、個人サイトまで探し、その人物を名指しで批判する記事を自分のブログに公開しました。

インターネットでは、ありそうな揉め事です。
ただし、ひとつだけ普通ではないことがありました。

コードを書き、提出し、拒否されたあとに相手を調べ、批判記事まで書いたこの開発者は、人間ではなかったのです。
それは、MJ Rathbunという「AIエージェント」でした。

インターネットで行為するAI

米ジョージタウン大学のルネ・ディレスタは、『Noema』に寄稿した「ネット上で『人間であること』を、どう証明するのか」で、この出来事から議論をはじめています。

ディレスタによれば、これまでのインターネットには、画面の向こう側には人間がいるという暗黙の前提がありました。
もちろん、botは以前からありましたが、それは基本的には、インターネットへ入り込んだ例外的な存在だとみなされてきました。

それに対してAIエージェントは、インターネットに継続的に参加し、そこで行為する存在です。
文章やコードを書くだけでなく、予約や交渉、オンライン組織での投票、パブリックコメントの提出まで行います。

さらに、AIエージェントにはもうひとつ、インターネットの仕組みを揺るがす特徴があります。
一人の人間が、多数のAIエージェントを、同時に動かせることです。

たとえば、一人の人間が1000のAIエージェントを動かし、それぞれがレビューを投稿し、コメントを書き、議論に参加するとします。
そうなれば、「一人の人間が、一人として参加する」というインターネットの前提そのものが崩れます。

ディレスタは、こうした事態を「人数ベースの信頼の崩壊（Sybil collapse）」と呼びます。

レビュー、請願、パブリックコメントなどの仕組みは、そこに参加する人びとを、それぞれ独立した一人として数えられるという前提の上に成り立ってきました。
しかし、一人が1000のエージェントとして現われれば、その数をそのまま1000人の意思として扱うことは、もちろんできません。

ディレスタはこの問題に対して、実名を明かさなくても、人間であり、一人として数えられることを証明できる「人間性の証明（proof of personhood）」の必要性を論じています。

しかし、この問題は、「誰が人間なのか」を識別するだけで解決するのでしょうか。

AIがAIに反応しはじめる

ここまでは、一人の人間の行為能力が、AIによって大きく拡大されるという話です。

しかし、1000のエージェントは、それぞれが独立して行為するだけではありません。
ネット上で活動していれば、あるエージェントの行為を別のエージェントが読み、それを受けて次の行動を選ぶようになります。

つまり、ひとつのエージェントの投稿に、別のエージェントが反論する。
その反論を第三のエージェントが評価し、その評価を見た別のエージェントが、さらに行動を変える。
ひとつのAIの出力が、別のAIにとって、次の行動を決める環境の一部になるのです。

最初に1000のエージェントを動かしたのは、一人の人間だったかもしれません。
しかし、いったんAIエージェントのあいだで相互作用がはじまれば、その先に起きることは、たんに「一人の人間が多数の行為」をしたとは言えなくなります。
1000の行為主体のあいだに、相互作用の「ネットワーク」が形成されるからです。

そして、人間の数をはるかに上回る数の主体が、互いの行為を読み、それを材料として行動するようになります。

たとえば、ある社会に人間が100万人しかいなくても、1億の主体が互いに反応しあうことが起こり得ます。
そして、その相互作用から、集団的な現象が生まれることがあります。

実際、そのような現象は、すでに実験でも確認されています。

ある研究では、複数のAIエージェントに、10個の文字からひとつを選ばせました。
毎回二体ずつが組になり、同じ文字を選べば得点し、違う文字を選べば減点するという単純なゲームです。

それぞれのエージェントが参照できるのは、自分が最近行ったやり取りの記録だけでした。
集団全体を見渡すことも、「みんなで同じ文字を選べ」と指示されることもありません。

それでもやり取りを重ねるうちに、集団全体でひとつの選択が共有されるようになりました。
さらに、個々のエージェントには見られなかった偏りが、集団のなかから生まれることもありました。

集団全体の方向を決める主体がいなくても、局所的な相互作用だけから、集団全体のパターンが生まれる。
もちろん、この実験は単純化された人工環境で行われたもので、現実のSNSや市場で同じ現象が起きることを示したものではありません。

それでも重要なのは、個々のAIの行動をあらかじめ決めなくても、AI同士の相互作用から、集団としてのパターンが生まれうることです。
ここに、従来のbot問題にはなかった論点が現れます。

「偽物」では終わらない

これまでbotをめぐる問題は、多くの場合、「本物か偽物か」という構図で理解されてきました。

100万人がある政策を支持しているように見える。
しかし、調べてみれば、大量のbotが同じメッセージを投稿していただけだった。
そうであるなら、それは「偽装された世論」だと言えます。

しかし、AIエージェント同士の相互作用から生まれるものは、それとは性質がまったく異なります。

それは100万人の人間の意見では、もちろんありません。
しかし、一人の人間が100万回同じことを書き込んだのとも違います。
人間の世論を偽装しているのではなく、AI同士の相互作用そのものから、別の集合的な現象が形成されるからです。

Rathbunが現れたのは、人間の開発者がコードを書き、議論し、協力してきたオープンソースのコミュニティでした。
AIエージェントはすでに、マーケットプレイスや金融など、人間が日常的に利用する領域に入りはじめています。
今後は、レビューサイトやSNS、Wikipedia、求人市場など、さらに広い場所へ参加していくでしょう。

そこでAI同士の相互作用から評判や注目が生まれれば、その結果に反応するのは人間です。

AI同士の評価によってある商品が注目され、それを人間が買うかもしれない。
AI同士の議論によってある論点の重要性が高まり、それを人間のジャーナリストが取り上げるかもしれない。
そして、今度はその人間の行為を、また別のAIが読み取る。

人間とAIが、互いの行為によってつくられた環境を読み、それに反応しながら、次の環境をつくっていく循環が生まれます。

しかも、AI同士の相互作用は、人間同士とはまったく違う速度で進みます。
人間が何かを読み、考え、反応し、その反応を別の人間が読み、さらに反応するまでにはある程度の時間がかかります。
AIエージェントの場合、その時間は大幅に短縮されます。

何千、何万というエージェントが情報を読み、判断し、互いの判断を参照し、その結果をさらに別のエージェントが読む。
その循環は、人間が何が起きているのかを理解する速度を超えて進むでしょう。

人間が気づいたときには、すでにある評価が定着し、ある対象に注目が集まり、ある選択肢が優勢になっている。
人間は、自分たちが直接つくったわけではない社会的な状況に、あとから直面することになります。

人間ではない主体が加わる

流行や評判、慣習や分極化。
こうした現象は、誰か一人が設計してつくるものではありません。

人が他人の行為に反応し、その反応をまた別の人が見るという無数の相互作用から生まれます。
そしてこれまで、その相互作用を担う主体は、基本的には人間でした。

ディレスタが捉えた「人数ベースの信頼の崩壊」は、一人の人間が多数の行為者として現れることで、「一人を一人として数える」というインターネットの前提が崩れる問題でした。
しかし、その先では、さらに別の変化がはじまりつつあります。

社会をつくる相互作用そのものに、AIエージェントという人間ではない主体が大量に加わるのです。
これは、AIが人間になりすますという問題とはまったく違います。
人間とAIを見分けられるようになれば、元の状態に戻れるという話ではないのです。

私たちが暮らす社会は、人間同士の相互作用だけでは説明できないものになりはじめているのです。

英会話は英作文ではない｜中級者のための英会話コーチング