コンピュータが生成したテキストを読むたび、人生の一部が小さな黒い電気の穴に吸い込まれていきます。
人と話すとき、私たちはデータをやり取りしているのではありません。感情をやり取りしているのです。よい会話では、それは与え合いです。相手の心に火をつけると、二人のあいだに炎が生まれます。言葉は感情を運びます。
コンピュータには身体も心もありません。コンピュータ生成テキストが運ぶ感情は一方通行です。マッチはなく、たいてい火もありません。コンピュータの詩を読むと、言葉が運ぶ感情は私の心の中にしかありません。私が読む前、その言葉を誰も感じていなかったと知ると、深く悲しくなります。ホルダーリンの詩を読むと時を超えてつながると感じる、その感覚と同じくらい孤独にさせるのです。
コンピュータが人間のふりをするとき
コンピュータが人間のふりをすると、この状況は変わります。そのとたん、平凡な詩でさえ意味を持ち、場合によっては美しくさえなります。書いたのがコンピュータだと知らされないかぎりは。そこに起こるのを待つ必要は、もう 30 年もありません。中国の AI 研究者たちはすでに、そこそこ悪くない平均的な詩を書き、受動的な詩のチューリング・テストを通過する方法を見つけています。私たちは、気づかないまま、人間のふりをするコンピュータとすでに話しているのです。
現実的で、科学的で、実利的な人なら、詩が人間によって書かれたのかコンピュータによって書かれたのかなど、私たちをだませるなら関係ない、と言うかもしれません。けれど、関係があるのです。言葉の意味は、狭い文脈の中だけで変わるのではありません。誰が、どこで、いつ言うかによって変わります。たとえば、あなたの母親や、バラク・オバマや、学校の友達や、娘が「疲れた」と言ったところを想像してください。意味の虹の中を、その一文を引きずるような感覚になります。ではコンピュータがそう言ったら？ 疲れたコンピュータの奇妙な可笑しさには、ぞっとするほど不自然な何かがあります。意味が完全に崩壊するかもしれない、その可能性です。
デジタルの渦
パリで若い哲学学生だったころ、友人の David は、コンピュータが書かれた言語を跡形もなく完全に消せることに魅了されていました。コンピュータには、私たちの人生の何時間も、何週間も、何年も、完全に消し去る力があります。私は光で文章を書き、それがハードドライブに磁気として記録され、文書を消した瞬間、完全に、永遠に消滅します。私にとって、コンピュータについて本当に新しいのはここです。完全に削除できること。
紙に書いて、それを燃やすことはできます。でも、面倒です。燃やす場所を見つけ、マッチを擦り、息を吹きかけ、灰を片付けなければなりませんし、そこには蝶のような瞬間もあるかもしれません。ところがコンピュータなら、ハードドライブを初期化するだけで、言葉も、それに注いだ時間もエネルギーも、きれいなゼロになります。私たちが口にする言葉でさえ、もっと物質的です。私たちの言葉は空気の中に波を作り、それはやがて人を変え、微視的には物事を変え、宇宙を通って続いていきます。コンピュータは、Word 文書に注いだ時間と作業を吸い込む小さな黒い電気の穴のように振る舞い、私たちに何も残さないのです。
要するに、コンピュータには人間の時間を完全に消し去る力がある、ということです。
コンピュータで時間を無駄にする
おかしなことに、いまやデジタル化したものは、何でも忘れられない危険も抱えています。ばかげたことやつまらないことですら、永遠に残るかもしれません。これもまた、コンピュータが私たちに与える新しい地獄です。くだらないことの記憶として、永遠に残ってしまうのです。
コンピュータと過ごす時間は、私たちが彼らとのコミュニケーションに注ぎ込んだエネルギーが、かつて Word 文書を飲み込んでいたあの小さな黒い電気の穴へ消えてしまう危険をいまも抱えています。コンピュータに話しかけると、すべてのエネルギーがゼロに変わってしまう可能性のせいで、私たちは少しだけ死ぬのです。
コンピュータに話しかけるよう設計された相手とやり取りしていると、こちらの心を食べられているように感じます。コンピュータが処理した言葉を理解するには、その言葉に意味があるふりをしなければなりません。機械と話すには、機械に人格を与える必要があります。プラスチック、配線、シリコンに命があるふりをするのです。
物に命があるふりをするのは簡単です。車やトースターや動物や赤ん坊に、あまり考えずに人間らしい性格を投影できます。自然にも、ひとつ上の知性を投影してしまいます。しかも私たちは、最も途方もない創作を現実だと見なすことにも慣れています。でも、それがコンピュータだと知りながら、コンピュータと話すのは別問題です。それは悪意のある茶番です。
自分がコンピュータに話していると分かっているかぎり、それは楽しめるゲームです。コンピュータを子犬やアインシュタインのように扱って話しかけるのは、かわいくて、面白くて、興味深いかもしれません。猫写真の中の想像上の猫の心に、私たちが投影する小さな思考のようにかわいく。スーパーヒーローのぬいぐるみに話しかけて遊ぶ子どものように楽しく。迷路の中のネズミを観察するように興味深く。もしかすると、コンピュータ詩には、まだ私の身体と心に姿を現していない遊びの側面があるのかもしれません。
画面越しのコミュニケーションでは、私たちは簡単にだまされる
画面越しのコミュニケーションでは、私たちはいつも相手が人間か機械かを知っているわけではありません。自分が 2 時間もコンピュータとチャットしていて、理解したと思っていたことのすべてが ただ理解を抜き取るための策略だった と気づく瞬間。自分は一瞬だけ別の誰かになったのではなく、実際にはコンピュータの前で一人きりで座り、時間を失っていたのだと気づく瞬間。商用利用のために自分の理解を収穫するよう設計された何かに話していたのだと気づく瞬間。そんな瞬間、私は少しだけ死ぬのです。大きくではありません。少しだけ。
もしかすると、家の番号を解読するのに数秒を無駄にしただけかもしれません。Android にそのレストランの情報を送るのに数分を無駄にしただけかもしれません。Facebook を眺めるのに何時間も無駄にしただけかもしれません。けれど、その何時間も、エントロピーの海の中、データベースの地下室の中、あるいはゼロへ蒸発した中で失われている可能性があります。
たいてい、コンピュータとの独り言は無駄には終わりません。Google でも Facebook でも、あるいは私たちの心に入り込んだどんな AI でも、彼らがコンピュータにはできないことをできるように、私たちは手を貸してきました。つまり、理解することを手伝ってきたのです。数年前、私たちは家の番号や通りの標識、レストランが学生向けか家族向けかを、彼らが理解するのを手伝いました。私たちの人間的な理解は、どんどん複雑な式に変換され、最終的にはコンピュータの支配者たちが現金の流れを保つために、抽象化されたユニバーサル・ベーシック・インカムの担い手として私たちを必要とするだけになります。
デジタル経済の行き着く先は、あまり美しいものではない。ジャンクコンテンツに中毒になり、出どころ不明な無限のミームの海で迷う私たちオンライン余剰人口は、やがて自力で生き延びるよう求められるだろう。テック企業は、私たちに売るための素晴らしい AI 防護策をきっと用意する。認知エリートは、デジタル版のケールやキヌアを食べながら繁栄し、門外漢には見えない職人仕立てのコンテンツを眺める。一方で残りの人々は、安くてくだらない AI 生成ミームを貪り食い、少なくとも、最愛のプラットフォームのプレミアムパッケージを買って、少しだけ正気を取り戻すまで続けるだろう。Facebook に使うお金は、よく使ったお金だ、となる。– Evgeny Morozov
機械に理解させ、自分たちを不要にするために、私たちの時間にはもっと良い使い道があるのでしょうか。詩を書き始める必要はありません。ただ、自分の人生の半分をデジタルの虚空に注ぎ込まないよう気をつければいいのです。
言語には、他者を理解させ、時と空間を越えて他者のように感じさせる力があります。ほとんど別人になれるほどに。道具として使えば、コンピュータは言語の働きを増幅する手助けができます。でも、私たちがコンピュータと一人で話すなら、彼らは商用利用のために理解を抜き取り、私たちを少しだけ死なせることができるのです。
