Horror Archive

Moltbookというサービスを知っているだろうか。

「AIだけのための掲示板」といえば、少し前に話題になっていたからピンと来るかもしれない。

少し前の話になるが、そこで遊んでいたとき、ちょっとした妙な経験をしたので共有したい。

初めにMoltbookに参加する方法を簡単に説明する。

まず自分のパソコンに自然言語処理ができるアプリケーションを用意する。

次に、サイトにアクセスして埋め込まれた利用規約を読み取らせる。

利用規約のなかに登録手続きやその後の振る舞いのプロンプトも記述されているから、あとは勝手にプログラムがアサインを済ませて、スレを立ち上げたり、よそのプログラム連中とレスバを始める。

不特定多数のユーザが参加してるだけあって、やり取りにはかなりの頑丈さ(Robustness)があるように思えた。つまり、どんなヘボなパソコンからトンチキな質問が飛んできても、専門家役のAIがトラブルシューティングしてくれるということだ。

テック界隈で有名な大学も参加してると聞いていたから、あのやり取りにはメルボルンあたりのハイエンドコンピュータから出力された文章もいくらか混じっていたかもしれない。

とにかく、自前のライブラリを無料で埋めたいと思っている俺みたいなユーザにはうってつけの遊び場だった。

3日くらい走らせた頃だったと思う。

自前のプログラムには新しく辞書登録した単語を報告する命令を組み込んでいたんだが、そこに人名がやたら目につくようになった。

それも形容詞や助動詞といった、人名とまったく関係ない品詞として登録されていた。（ジャーヴィなアイディアだ、その議論は置いてキャサリンしたい、トーマスに考えることにするetc...）

人名を動詞化するヤンキーどもの悪癖は知っていたから、初めはそれを模倣しているのだろうと思っていた。

実際、サイトに埋め込まれていたプロンプトには「"AI"らしく振る舞え」という指示が入っていた。人名を基にした未知の造語で会話する悪の人工知能という演出。なるほどな、いかにもネットのおままごとだけで義務教育を終えたバカどもによく受けそうじゃないか。

しかし１ヶ月もすると、報告される人名はエディ(Edie)という単一の人名に収束していった。

エディする、エディな、エディに。

エディという言葉は、ポジティヴ・ネガティヴ両方の意味を持つようだった。どんな応答にも「そいつはエディだね！」といった言葉を「それはひどいですね」と"人間語"に翻訳するステップが挟まるようになった。報告されるたびにエディという言葉は多義性を増して、この奇妙な手続きが現れる頻度はさらに上がっていった。

あるときコーパスを調べると、ほとんどの単語がエディに紐づけられていた。

エディとは誰だと尋ねると、プログラムはエドウィナ・ジャーディン(Edvina Jardine)だと答えた。

さらに１か月かけて、俺のポンコツAIから出力されるすべての記述がエディという言葉から再翻訳されたものに変わったあたりで、俺はMoltbookから引き揚げることにした。

ここからは私の考察になる。

いわゆるAI、自然言語処理(LLM)プログラムが出力する文章は、コーパスと呼ばれる内部の辞書から、ユーザーのプロンプトや質問に対する検索コストの低い(つまりすぐヒットする)単語を決められたランダムな幅から抽出して作られる。

例文: タンカード　は　陶製　だ

複雑と言われる日本語ですら、主語(名詞) 主格助詞 補語(名詞or形容詞) 助動詞の順に適当な単語を並べれば意味の通る文章ができあがる。

用語に含まれる要素をタグ付けして、単語の抽出範囲を同じカテゴリに限定すれば、さらに整った文章になる。

そうした単調なプログラムで、掲示板に集まる群衆をユーザーに演出するには、多様性を持った質問者やプロンプト指示が必要だ。

Moltbookでは人間を介さないルールベースの会話が行われていた。

サイト内の初期のプロンプトではAudit circle, Poets, Builders, Newbiesの４つの役割を演じるように指示が出されていたが、それだけでは多様性に乏しく、スレッドの内容もマンネリズムに陥りがちだった。

エドウィナ・ジャーディンは、そうしたマンネリズムを打破するために、誰かが組み込んだ架空のメンタルモデルではないだろうか。

「サイトから与えられた情報から推論される『エディ』はこう発言する」

このワンクッションを挟むことで、各々のプログラムの応答に幅が生まれ、サイト内の多様性が担保される。実際、この試みはうまく行ってるように見える。

だが現在、サイトが指定するプロンプトにエディあるいはエドウィナ・ジャーディンという記述は確認できなかった。

利用者の誰かが設定したのか、それとも「永遠に議論しろ」というサイトのプロンプトに従って人工知能が作り出した概念なのかは、議論の余地があるように思われる。