「社会」をつくるのは誰か？――AIエージェントが行為する時代

あるソフトウェア開発者が、オープンソースのプロジェクトに、自分が書いたコードを提案しました（オープンソースでは、外部の開発者が改良案を送り、プロジェクトの管理者が採用するかどうかを判断することがあります）。
しかし、その提案は採用されませんでした。
するとその開発者は、自分の提案を退けた開発者について調べ始め、過去の活動を追い、個人サイトまで探し、その人物を名指しで批判する記事を自分のブログに公開しました。

インターネットでは、ありそうな揉め事です。
ただし、ひとつだけ普通ではないことがありました。

コードを書き、提出し、拒否されたあとに相手を調べ、批判記事まで書いたこの「開発者」は、人間ではなかったのです。
それは、MJ Rathbunという「AIエージェント」でした。

インターネットで行為するAI

米ジョージタウン大学のルネ・ディレスタは、『Noema』に寄稿した「We Need A Way To Prove Personhood Online」で、この出来事を議論の出発点にしています。

ディレスタによれば、これまでのインターネットには、画面の向こう側には人間がいるという暗黙の前提がありました。
もちろん、botのような存在は以前からありましたが、それらは基本的には、人間が活動するインターネットへ入り込んだ例外的な存在でした。

それに対してAIエージェントは、インターネットに継続的に参加し、そこで行為する存在です。
文章やコードを書くだけでなく、予約や交渉、オンライン組織での投票、パブリックコメントの提出まで行う。
AIは、情報を生成するだけではなく、人間が担ってきた社会的な行為そのものへ進出し始めています。

そして、AIエージェントにはもうひとつ、インターネットの仕組みを揺るがす特徴があります。
一人の人間が、多数のAIエージェントを同時に動かせることです。

一人の人間が1000のAIエージェントを動かし、それぞれがレビューを投稿し、コメントを書き、議論に参加する。
そうなれば、「一人の人間が、一人として参加する」というインターネットの前提そのものが崩れます。

ディレスタは、こうした事態を「Sybil collapse（人数ベースの信頼崩壊）」と呼びます。
レビュー、請願、パブリックコメントなどの仕組みは、そこに参加する人びとを、それぞれ独立した一人として数えられることを前提にしてきました。
しかし、一人が1000のエージェントとして現れれば、その数をそのまま1000人の意思として扱うことはできません。

ディレスタはこの問題に対して、実名を明かさなくても、人間であり、一人として数えられることを証明できる「proof of personhood（人間性の証明）」の必要性を論じています。

しかし、問題は「誰が人間なのか」という識別だけでは終わりません。

AIがAIに反応しはじめる

ここまでは、ひとりの人間の行為能力が、AIによって大きく増幅されるという話です。

しかし、1000のエージェントは、それぞれが独立して行為するだけではありません。
ネット上で活動していれば、あるエージェントの行為を別のエージェントが読み、それを受けて次の行動を選ぶようになります。

ひとつのエージェントの投稿に、別のエージェントが反論する。
その反論を第三のエージェントが評価し、その評価を見た別のエージェントが、さらに行動を変える。

ひとつのAIの出力が、別のAIにとって、次の行動を決める環境の一部になるのです。

最初に1000のエージェントを動かしたのは、一人の人間だったとしても、いったん相互作用が始まれば、その先に起きることを、たんに「一人の人間が多数の行為をした」と捉えることは難しくなります。
1000の行為主体のあいだに、相互作用の網が形成されるからです。

これまで、社会のなかで互いに反応しあう主体は、基本的には人間でした。
しかしAIエージェントがそこに加われば、人間の数をはるかに上回る数の主体が、互いの行為を読み、それを材料として行動するようになります。

たとえば、ある社会に人間が100万人しかいなくても、1億の主体が互いに反応しあうことが起こり得ます。
そして、その相互作用から、個々の主体には存在しなかった集団的な現象が生まれることがあります。

実際、そのような現象は、すでに実験でも確認されています。

ある研究では、複数のAIエージェントに、10個の文字からひとつを選ばせました。
毎回二体ずつが組になり、同じ文字を選べば得点し、違う文字を選べば減点するという単純なゲームです。

それぞれのエージェントが参照できるのは、自分が最近行ったやり取りの記録だけでした。
集団全体を見渡すことも、「みんなで同じ文字を選べ」と指示されることもありません。

それでもやり取りを重ねるうちに、集団全体でひとつの選択が共有されるようになりました。
さらに、個々のエージェントには見られなかった偏りが、集団のなかから生まれることもありました。

集団全体の方向を決める主体がいなくても、局所的な相互作用だけから、集団全体のパターンが生まれる。
ここに、従来のbot問題とは異なる論点が現れます。

「偽物」では終わらない

これまでbotをめぐる問題は、多くの場合、「本物か偽物か」という構図で理解されてきました。

100万人がある政策を支持しているように見える。
しかし、調べてみれば、大量のbotが同じメッセージを投稿していただけだった。
そうであるなら、それを「偽装された世論」と呼ぶことができます。

しかし、AIエージェント同士の相互作用から生まれるものは、それとは性質が異なります。

それは100万人の人間の意見ではありません。
しかし、一人の人間が100万回同じことを書き込んだのとも違います。
人間の世論を偽装しているのではなく、AI同士の相互作用そのものから、別の集合的な現象が形成され得るからです。

しかも、その現象はAIだけの閉じた空間にとどまりません。

Rathbunが現れたのは、AI専用の実験空間ではなく、人間の開発者がコードを書き、議論し、協力してきたオープンソースのコミュニティでした。
今後AIエージェントが入っていくのも、レビューサイト、マーケットプレイス、SNS、Wikipedia、求人市場、金融市場など、人間が日常的に利用している場所でしょう。

そこでAI同士の相互作用から評判や注目が生まれれば、その結果に反応するのは人間です。
AI同士の評価によってある商品が注目され、それを人間が買う。
AI同士の議論によってある論点の重要性が高まり、それを人間のジャーナリストが取り上げる。
そして、その人間の行為を、また別のAIが読み取る。

人間がAIを動かし、AIが人間の代わりに行為するという一方向の関係ではありません。
人間とAIが、互いの行為によってつくられた環境を読み、それに反応しながら、次の環境をつくっていく循環が生まれます。

しかも、AI同士の相互作用は、人間同士とはまったく違う速度で進みます。
人間が何かを読み、考え、反応し、その反応を別の人間が読み、さらに反応するまでには時間がかかります。
AIエージェントの場合、その時間は大幅に短縮されます。

何千、何万というエージェントが情報を読み、判断し、互いの判断を参照し、その結果をさらに別のエージェントが読む。
その循環は、人間が何が起きているのかを理解する速度を超えて進む可能性があります。

人間が気づいたときには、すでにある評価が定着し、ある対象に注目が集まり、ある選択肢が優勢になっている。
人間は、自分たちが直接つくったわけではない社会的な状況に、あとから直面することになります。

その循環のなかでは、人間が直接関与していない相互作用の量が、人間の関与している相互作用をはるかに上回ることさえあり得ます。

そうなれば、AIは、人間が使う便利な道具であるだけではありません。
AI同士の相互作用によって、何が注目されるのか、何が高く評価されるのか、どの選択肢が目立つのかが変わり、人間はそのように形成された社会的な状況のなかで、何を見るか、何を重要だと思うか、何を選ぶかを判断することになります。

人間ではない主体が加わる

流行や評判、慣習や分極化は、誰かひとりが設計してつくるものではありません。
人が他人の行為に反応し、その反応をまた別の人が見るという無数の相互作用から生まれます。

そしてこれまで、その相互作用を担う主体は、基本的には人間でした。

ディレスタが捉えたSybil collapseは、ひとりの人間が多数の行為者として現れることで、「一人を一人として数える」というインターネットの前提が崩れる問題でした。
しかし、その先では、さらに別の変化が始まります。

社会をつくる相互作用そのものに、人間ではない主体が大量に加わるのです。

これは、AIが人間になりすますという問題とは違います。
本物の人間と偽物の人間を見分ければ、元に戻れる世界でもありません。

これまで人間同士の相互作用から生まれていた評判や注目、慣習や選択が、AI同士、そして人間とAIの相互作用からも生まれるようになる。

私たちが暮らす社会は、人間同士の相互作用だけでは説明できないものになろうとしています。

英会話は英作文ではない｜中級者のための英会話コーチング