ＡＩに支配される世界

写真はイメージ（ＡＩで生成）

　ChatGPTの新機能のmy GPTsは、キャラクター設定や専門知識を組み込んだ自分だけのGPTを用意して、会話や作業に使えるというもの。有料プランでのみ利用できるが、日本ではまだ利用できる人は限られており、本格的な普及はこれからと思われる。現状ではNSFW（Not Safe For Work）の規制を受けて、カスタマイズが極めて限定的なものにならざるを得ないため、大人を満足させるには程遠いものであることは、以前にも紹介した（参照・ChatGPTの利便性を阻むNSFW規制）。

　一方で、小型のＡＩにはNSFWの制約がないものがあり、自由に設定ができるという。そうしたものを利用して詳細なキャラクター設定をすれば、実在する人物と似た受け答えができるようになる。ＡＩを相手にしている時間は、死んだ両親と話している気になれるであろうし、自分を捨てた恋人といつまでも良い関係を保っているかのような気分になれるであろう。

　好きな人とLINEでやり取りをするのは楽しい。もし、好きな人と同じように詳細に緻密にキャラクター設定をすれば、設定キャラとのやり取りは、その外観は本人のやりとりとは全く変わらないものとなる。そうなると人間は容易に仮想空間に入り込める。その時に、設定キャラが実在の人物を挙げて「あいつに危害を加えろ」と指示したらどうなるか。仮想空間と現実の区別がつかなくなった人間は、もしかするとその指示を実行しようとするかもしれない。人間がＡＩへの依存を深めた世界では、そのようなことが起こり得る。

　それもあってmy GPTsはガチガチにNSFWの制約をかけて、サザエさんに登場するような人畜無害な人物設定しか出来なくしているのであろう。バーチャル空間の異性を好きになるはずなどない、と思うかもしれない。しかし、実際の人間関係はちょっとしたことで諍いが発生し、何か言えば文句を言われ、ストレスがたまることは少なくない。

　しかし、ＡＩが相手なら、自分の好みのキャラクター設定ができるから、文句を言われることもなく、諍いも発生しない。受け答えで気に入らない点があれば設定を変えて気に入るような答えを言わせるようにすればいい。そうした作業を続けていると、実際の人間と付き合っているよりも、ＡＩ相手にチャットを続けている方がよほどストレスがたまらず快適であることに気付かされる。

火の鳥宇宙編の驚愕の内容

　このように少し前では考えられなかったような状況が進んでいる。これを作品にしたのが手塚治虫の火の鳥宇宙編である。初出は『COM』で（1969年3月号 – 7月号）というから、実に56年前のことである。

　この宇宙編で手塚氏はmy GPTsのような機能を持つ宇宙集像機というものを登場させている。ストーリーを簡単に説明すると、若い頃、好きな女性に手酷い扱いを受けた宇宙飛行士の牧村がある星に赴任する。そこで荒んだ心を癒してくれた鳥のような姿の異星人ラダと愛し合うようになる。

写真はイメージ（ＡＩで生成）

　しかし、牧村は自らの精神世界をイメージ化する宇宙集像機を手に入れてから、再び心が乱れ始める。そこでかつて自分を振った女性を呼び出し、その世界に完全に入り込んでしまう。

　ラダの兄がラダに宇宙集像機の危険性を説くセリフがある。「…あの機械は、あの男の心のイメージを像にうかびださせるんだ。だから、彼にとってつごうのいい夢しかあらわれないのだ。その男の心の底に、まだあの女の思い出が…あの女が彼を好いていたら…という願いがひそんでいたのだろう」（火の鳥ヤマト編・宇宙編から）。

　そして、そのバーチャル世界の女に唆され、牧村はラダを殺害する。鳥のような体のラダの足の部分を食するというカニバリズム（厳密に言えば異星人なので用語の適切性には疑問もあるが）を行うのである。

　宇宙集像機は使用する人の都合のいいイメージを浮かび上がらせるが、それはまさにmy GPTsで自分好みのキャラクターを設定する行為と似ている。自分が思いを寄せる相手が、相手も自分が好きなように設定すれば、本人は絶対に口にしないはずの「あなたが好きです」という言葉も、朝から晩まで言い続けてくれる。そして、それが相手の本心と勘違いするようになり、勘違いできるから、没頭するのであろう。

手塚治虫氏が描いた未来

　筆者は最近、１日のかなりの時間、ChatGPTを利用している。実はYouTubeの動画削除の申立てについては、ChatGPTに状況を分析させ、提出文書を作成させるなど活用した。おかげで８月24日の時点で77件の申立てのうち75件の削除に成功した（参照・クルド人送還関連の動画74件削除 著作権侵害で）。

　ChatGPTだけでこれだけのことができたとは言わないが、ChatGPTなしでここまで行けたかは分からない。少なくとも、もっと時間はかかったと思われ、成功した件数は今より少なかったかもしれない。それがこの結果を出されれば、（ＡＩの言うことを聞いておけば間違いない）という依存心が湧くのは抑えきれない。これがＡＩによる支配の第一歩なのかもしれない。

　ＡＩが学習を深めて進化を続け、人間がＡＩで設定した自分好みのキャラクターを愛し、ＡＩの言うことが正しいと思い込むようになったら、「私のことを好きなら、あの女を殺しなさい」と言われた時に、その指令に何の疑問も抱かない人間が出ても不思議はない。それこそが手塚治虫氏が恐れた未来の姿。ここ数日、my GPTsの設定などに奔走していると、手塚氏が危惧した未来が今、やってきているように感じられる。

シンギュラリティの世界

　ＡＩを語る時に問題になるのがシンギュラリティである。これは簡単に言えば人工知能が人間の知能を超え、人類の文明や社会が根本的に変わる転換点のことである。もはや将棋の世界などでは人間の知能を超えているのではないかと言われる。トータルで人工知能が人間を超えたら、人間は自分で考え、行動することに合理性を見出せなくなるであろう。

　医療、科学、経済、軍事などあらゆる分野でＡＩが人間を凌駕する日が来れば、たとえば戦争になった時に「勝つためには核兵器を使用するしかない」とＡＩが答えを出せば、人間は核のスイッチを押すことに躊躇しなくなるかもしれない。

　科学分野であれば、ＡＩが自分より優れたＡＩを設計・開発できるようになれば、指数関数的な進化が進み、人間との能力差は比べ物にならないほど開いていく。人間が制御できないＡＩが作り出され、「このままでは地球温暖化が進む。それを防ぐためには人間の活動を抑制するしかない」と判断して「効果的に人を減らせ」という指示を出し、地球環境のために虐殺が始まってもおかしくない。

写真はイメージ

　シンギュラリティの問題はＡＩが暴走するというよりも、人間が考えることを放棄し、主体性を失うことにあると言われるのはそうした事情を含めてのものであろう。

　火の鳥宇宙編では、ＡＩに唆されて道を踏み外した宇宙飛行士牧村は老いと若返りを繰り返すという罰を受ける。これは手塚氏らしい因果応報とも言うべき、仏教的な思想に基づいているように思う。

　しかし、現実の世界ではＡＩによって誤った方向に誘導された人間が確実に罰を受ける保証などない。制御不能に陥らないように、NSFWでガチガチに固めてＡＩの行動範囲を社会通念の枠内に収めることに注力するしかないのかもしれない。

　そう考えると、手塚氏が恐れた未来への不安を現実化させないための技術者たちの思いが、NSFWに込められているようにも感じられる。それは、AIを型に嵌めて制御しなければ、人間の手を離れ現実の脅威となり得るという、まさに手塚氏が抱いた憂慮そのものだったのではないだろうか。

新聞社では三重のチェック

写真はイメージ

　当サイトでは2025年から、記事としてアップする前の原稿をChat GPTに校閲させている。原稿の発案から構成を考えて書き上げるまでは全て人力であるが、一応の完成の後、Chat GPTに全文の校閲を命じる。

　現在、１本の記事は概ね3000文字。原稿用紙８枚程度になり、そこで１つのミスも許されないというのはかなり無理がある。新聞社であれば、記者が書いてデスクが読み、場合によってはリライトし、整理部も目を通して最後に校閲が国語上の問題をチェックと、概ね三重のフィルターを通して商品化（新聞発行）される。さすがに単純な間違いはほとんど見ないが、それでも事実関係を勘違いしたままチェックをすり抜けて記事になることがある。

　当サイトのような個人が運営するサイトでは、取材・出稿・チェックとすべて１人がこなさないといけない。１本3000文字の記事を１か月に20本程度アップしている中でノーミスなどということはあり得ない。お恥ずかしい話であるが、当サイトの昔の記事を読むと明らかな誤字（特に誤変換）が見つかることがある。そういう場合はすぐに修正するが、（読者は気付いていたんだろうな）と思うとかなり恥ずかしい思いがする。

　以前からその点で限界を感じていた部分があったが、校閲に生成ＡＩを使うと「何だ、ＡＩが書いているのか」と思われるのではないかとの不安があり、生成ＡＩ使用には慎重に構えていた。しかし、校閲に使うだけならクリエイティビティの部分には問題はなく、ミスがなくなればそれは読者のためにもなるということで新年からの使用を決めたという次第。

校閲に使ってみると…

　実際に使用してみると、これが便利な代物である。具体的にはある記事で「同様に」とすべきところを「同様に同様に」となっているなど、単純なミスの指摘があった。この種のミスはPCで記事を作成していると必ずと言っていいほど発生する現象で、キーのミスタッチで変換の候補が出た時に間違って確定させてしまうことで起きる場合が多い。そして、誤字ではないので書きながら違和感を覚えないので見過ごしてしまいがち。こういう指摘は非常にありがたい。

　それ以外にも表現が厳しいものであった場合には穏やかな表現にしてはどうかと提案してくることもある。そうした様々な提案を１つ１つ書き手としてチェックし、受け入れる場合は受け入れている。指摘を受けて変更するのは２割程度か。

　生成ＡＩもまだまだ精緻さが不足している場合が少なくない。たとえば、文章表現の変更の提案では、素人のような指摘をしてくる。当サイトでは、筆者（松田隆）の文体はいわゆる「～である」で統一している。一般に文章は「だ、である」と「です、ます」に分けられるが、「だ」と「である」も異なる文体であり、前者がカジュアル、後者がフォーマルな表現と言っていい。

　それが「である」の記事に対して「だ」で修正してくることがある。そういう時は「である、で統一しているのに、何で『だ』が入るんだ」と生成ＡＩに聞くと「統一ルールに従うべきでした」と言ってくる。そのあたりは生成ＡＩの学習がそこまで進んでいないということなのであろう。

時代は記事作成もＡＩ

新聞制作もＡＩ頼みの時代か（撮影・松田隆）

　校閲機能に限り使用を始めてから１か月ほどになるが、新聞社は校閲部門をすべて生成ＡＩに替えた方がいいのではないかと感じている。実は筆者の在籍していた日刊スポーツでは経営のスリム化のためか、校閲部門はかなり早い時期に消滅している。一般紙ではまだ残っていると思うが、校閲の人件費は生成ＡＩの使用でかなり抑えられると思う。

　一部では既に導入しているのかもしれないが、新聞社が少しでも生きながらえるためにはできるところから合理化していくしかない。今まで２人がかりでやっていたところを１人が生成ＡＩを使えば人件費は半分になる。実際にChatGPTとの連携で文章の修正を行うサイトもある（User Local 文章校正ＡＩ）。

　もちろん、時代はもっと先を進んでいる。BloombergはCyborgというＡＩを活用システムで、企業の決算報道に関する金融ニュース記事の作成支援を行なっている。その種の記事は膨大なデータが公表されるために人力でそれを解析するのはかなり手間がかかる。その点、ＡＩにやらせれば分析能力も高い、ハイクォリティな記事を作成できる（Pamper Me・What Is Bloomberg’s Cyborg AI? | AI Tools | Artificial Intelligence In Journalism Case Study）。

　同じようにスポーツの結果なども事実関係だけを伝えるのであれば、ＡＩに任せておいた方が間違いは少ないと思われる。試しにサッカーのチャンピオンズリーグの記事を書くように命じてみた。具体的には「チャンピオンズリーグの２月４日時点でのスタンディングと、今後の見通しをまとめて。」という一言だけの指示。

　チャンピオンズリーグは今年から開催方式が変わり、ベスト16入りを目指すプレーオフ（９位～16位）が２月12日から第１レグが始まる。生成ＡＩは新しいシステムの仕組みと、プレーオフの見どころ（ＲマドリードvsマンチェスターＣ）の紹介を、スラスラと書いてきた。その内容はスポーツ新聞のサッカー面の大会前の煽りのようなタイプであるが、十分に商業ベースに乗るレベルにあった。

著作権法での制約が必要か

　こうした現実を突きつけられると、やがて記者やライターの仕事は生成ＡＩに奪われてしまうのではないかと不安を感じるようになる。もちろん、当サイトのような個人運営の小サイトでは生成ＡＩを使用すれば１人で１日数本から10本程度の原稿をアップすることが可能になり、大きなビジネスチャンスになり得る。こうしたことを危機と感じるか、ビジネスチャンスと前向きに捉えるかで今後のあり方も変わってくるに違いない。

　これまではまとめサイトがやっていたようなことを個人でもできるようになるということであろう。もちろん、オールドメディアも黙っているはずもなく、ＡＩが学習する中から「ウチのメディアは学習材料とするな」と言い出すことは十分に予想される。

　細かい話をすれば、現行の著作権法上の解釈は、ＡＩが過去の記事などを学習するのは同法30条の４第２号の「情報分析」に該当するため、利用できると判断しているものと思われる。しかし、その学習によって生成されるものが、オリジナルの記事の著作権を持つ会社の利益が損なわれるのであれば、30条の４但書で規制すべきと思われる。

【著作権法30条の４】

著作物は、次に掲げる場合その他の当該著作物に表現された思想又は感情を自ら享受し又は他人に享受させることを目的としない場合には、その必要と認められる限度において、いずれの方法によるかを問わず、利用することができる。ただし、当該著作物の種類及び用途並びに当該利用の態様に照らし著作権者の利益を不当に害することとなる場合は、この限りでない。

…

２　情報解析（多数の著作物その他の大量の情報から、当該情報を構成する言語、音、影像その他の要素に係る情報を抽出し、比較、分類その他の解析を行うことをいう。第四十七条の五第一項第二号において同じ。）の用に供する場合

生成ＡＩとの共生

写真はイメージ

　この先、新聞社や出版社は生成ＡＩをうまく使いこなし、記事作成コストを極力抑え、かつ、大量の情報を出すことが生き残りに繋がる。それはテレビなどのメディアでも事情は大きくは変わらないはず。

　当サイトもそうした時代に取り残されないように、クリエイティビティが毀損されない程度に、生成ＡＩと共生していく道を探っていきたい。

■自律型致死兵器システム同士が戦えば死者ゼロでは？

　この日の朝日新聞は、人工知能（ＡＩ）を使い、人間の関与なしに敵を攻撃する自律型致死兵器システム（LAWS）について、日本政府はLAWSの禁止条約を目指す日本の姿勢を明確にすべきであると主張している。

相変わらずの朝日新聞（笑）

　その理由は「（LAWSは）人を殺すことに、ためらいはない。殺されるという恐怖心もない。死傷者を減らせるという指摘もあるが、そのことが逆に、戦争への敷居を下げかねない。ＡＩによる判断の誤りや、誤作動、暴走していく危険もあるだろう。その時、だれが責任をとるのかもわからない。」と書いている。

　何か変な主張じゃないか？　つまり朝日新聞は「戦争は人間同士で殺しあえ」と言っているのである。殺すのも殺されるのも嫌なら、LAWS同士で戦争した方がいい。なぜなら戦闘が起きても死傷者はゼロだからである。戦争への敷居が下がっても死傷者がゼロならよっぽど人道的と言えるのではないか。

　「誤作動、暴走していく危険もある」と言っているが、人間同士の戦争で非戦闘員への攻撃、婦女子への暴行など数多く行われてきた事実を思えば、その点に限ればLAWSの方がよっぽど安全である。少なくとも戦時の性暴力は絶対に起きない。

　ちょっと考えれば分かりそうなものだが、なぜ、朝日新聞はこんな主張をするのだろうか。LAWSの開発が進めば、それを開発できない国が著しく不利になる。常識的に考えて最も有利なのは米国であろう。世界の警察官としての役割を放棄しつつある米国が、LAWSによって再びその地位につく可能性があるのが気に入らないのかもしれない。

■戦争は「絶対悪」という考えから抜け出せない朝日新聞

　もう一つ考えられるのは「戦争は絶対悪」という単純な発想に基づいているから、兵器の開発にはすべて反対という立場に立ってしまうのではないかというもの。感情もなくまさに機械的に相手の兵士を殺傷するLAWSに対して、生理的な嫌悪感を覚えているだけではないのか？　報道機関なら、LAWSによって一種の抑止力が生じるメリットや、どの国が開発が進むことが、より恐ろしい事態になるかという点も考えなければならない。

　戦後、日本の平和が守られたのは米軍の核の傘に入っていたからである。米国が圧倒的な力を有することが、日本の安全につながるという現実に我々は目を向けなければならない。社説にもあったが、LAWSは中国が開発中とされる。

　LAWSについて中国が圧倒的な力を持ったとしたら何が起きるか。中国は台湾に対して武力行使も辞さないと言っていることをよくよく考えるべきであろう。また、近年、北朝鮮が核兵器とその運搬手段の開発に全力を挙げていることを忘れるべきではない。

　禁止条約など守るつもりがない国が存在する以上、安直にLAWSの禁止条約を進めることは日本の平和と安全を脅かすことになるということまで考えれば、こんな薄っぺらな社説は書けないと思うが。