特集 ● 内外混迷 我らが問われる

〔1〕生成ＡＩ＝チャットＧＰＴの登場

チャットＧＰＴは、生成ＡＩと言われる人工知能製品の一つで、アメリカのオープンＡＩ社が開発し、同社に出資しているマイクロソフトが大規模な投資計画を発表している。昨年11月から無料で公開され、全世界ですでに1億人超のアクティブユーザーを獲得している。4月10日に、オープンＡＩのCEOであるサム・アルトマン氏が岸田首相と会見してから、にわかに日本のマスメディアでも取り上げられるようになった。チャットＧＰＴは、日本語で質問すると、ほぼ瞬時に日本語文章で回答文が出力されることから、大学や産業界、さらには自治体まで、その利活用やガイドライン設定めぐって、議論が沸騰しつつある。

そこでまずは、この脚光を浴びている生成ＡＩであるチャットＧＰＴについて、ごく簡単に説明しておきたい。チャットＧＰＴは、Web上から収集された膨大なデータを利用して作られた巨大な自然言語処理モデルである。質問に対する回答の文章は、優等生的に矛盾なく書かれている。自然言語処理テクノロジーのイノベーションに基づく文脈や意味を考慮した回答文生成には、正直言って圧倒される。但し正解率を100％にすることは、統計モデルに依存する限り、決してできない。現在の第3次ＡＩブームは、ビッグデータの数学モデル解析による特徴・パターンの抽出が基本であるが、今回のチャットＧＰＴもその域をでていない。しかもチャットＧＰＴは、言葉も文章の意味も、まったく理解していない。

それではなぜ、文脈や意味を考慮した回答文を生成できるのだろうか。その疑問に答えるためには、ＡＩテクノロジーの歴史における生成ＡＩであるチャットＧＰＴの位置付けを明らかにする必要がある。併せて第3次ＡＩブームに至る第1次第2次ブームの高揚と、その挫折の要因についても目配りする必要がある。そうすることで初めて、チャットＧＰＴの基本的特徴が明らかになる。

〔2〕生成ＡＩの歴史的位置付けと基本的特徴

歴史をさかのぼって確認すると、ＡＩ（人工知能）の開発は、コンピュータの開発と同時期にスタートしている。そもそもコンピュータは、2つの目的で開発された。1つは軍事用ミサイルの弾道計算のスピードアップを当初の目的で開発され、その後は科学技術計算さらには経理・生産管理といった業務処理の効率化を目的に利用されていった。もう1つは「人間のように思考する機械」、すなわち人工知能の実現を目的に開発された。AND・OR・NOTといった論理回路を使って、高速で演繹推論などの論理処理をする機械の開発を志向したのである。このように人工知能の開発は、コンピュータの開発と、最初から密接な関係にあったと言える。

その後、2度のＡＩブームがもたらされたが、2度共にうまくいかず、「冬の時代」を経験することになった。それではなぜ2度のＡＩブームは、挫折したのだろうか。以下ではその原因を探ることで、現在の第3次ＡＩブームの特徴を明らかにし、生成ＡＩの歴史的位置付けとその限界を、浮き彫りにしていきたい。

第1次ＡＩブームは、1965年のダートマス会議からスタートした。この会議において、その主要メンバーであるアレン・ニューウェルとハーバート・サイモンは、世界初の人工知能プログラムである「ロジック・セオリスト」のデモを実施し、自動的に数学の定理を証明するプログラムを発表している。このプログラムに象徴されるように、第1次ＡＩブームのキーワードは、「論理」だった。さまざまな迷路・パズルを解く人工知能が開発され、テーリー・ウィノグラードが開発したシステム「SHRDLU」では、積み木を英語で指示して動かせた。「積み木の世界」の中だけとはいえ、言葉を正しく理解することができたので、大きな成功例として評価された。

しかしその後、1970年代に至ると、第1次ＡＩブームは終焉した。その原因は、迷路や積木といったゲームは、明確に定義されたルールの中で、次の一手を考えればよかったが、現実の問題はもっとずっと複雑で、全く解けなかったからである。トイ・プロブレム（おもちゃの問題）しか解けなかったのである。しかしながらルールが明確に定義されたゲームＡＩの世界だけは、例外的に長足の進歩を遂げていった。1997年には、チェスの世界チャンピオンに勝利し、2012年には将棋の米長永世棋聖に勝利し、2016年にはトップ囲碁棋士イ・セドルに勝利した。とはいえＡＩ開発全体を俯瞰すると、1970年代においては、長い「冬の時代」が続いた。

ところが1980年代に至ると「知識」をキーワードとした第2次ＡＩブームが、突然に到来する。それでは、なぜ「知識」をキーワードとした第2次ＡＩブームが起きたのか、その実現のプロセスをたどってみることにしたい。まずはコンピューターハードウェアの中核部品である集積回路の規模と密度が向上し、その結果、大きな記憶装置と強力な処理装置を備えた大型コンピュータの登場がブームの起爆剤として機能した。このハードウェアの技術発展を利用して、「知識工学」という名前で呼ばれた第2次人工知能ブームが開花したのである。この「知識工学」の中心はアメリカであり、特に西海岸のスタンフォード大学で研究がさかんだった。

こうした研究の中でも「エキスパートシステム」が、国際的な注目を集めていた。「エキスパートシステム」とは、人間の専門家であるエキスパートの代わりをつとめるような人工知能のことを指す。こうした発想は、法律や医学の「知識」に関しては専門家しか持っていないが、これをコンピュータに記憶しておき、正確に演繹推論を行なえば便利だろうという考え方からでてきたと言える。その結果、さまざまな分野でエキスパートシステムが構築され、演繹推論に挑戦するようになった。視野をアメリカ全体に広げると、当時、アメリカの大企業（フォーチュン1000）の3分の2が、エキスパートシステム構築にチャレンジしていたし、日本でもさまざまな業種で、エキスパートシステム構築の検討がスタートしていったのである。

このようにエキスパートシステムは、多くの大企業で構築が試みられてきたが、それらの経験から3つの課題が浮かび上がってきた。第1は、専門家からヒアリングして「知識」を取り出すためにコストがかかり、処理が大変だ、という課題である。

第2は、「知識やルール」の数が増えると、互いに矛盾が生じ、「知識」を適切に誤りなく維持管理することが難しくなる、という課題である。例えば、「トラは、ライオンと共にネコ科の最も大きい動物で、肉食性で、毛の色は黄褐色や赤みがかった黄色の地に黒い縞がある」という「知識」を無条件に前提にして演繹推論していくと、誤りが発生することがある。なぜならインドのベンガルトラには、白いホワイトタイガーが生息しており、その「白いトラ」は「トラ」ではないことになってしまうからである。

第3は、高度な専門知識が必要な限定された分野ではよくても、より広い範囲の知識を扱おうとすると、とたんに知識を記述することが難しくなる、という課題である。特に、自然言語で表される「曖昧でデジタル化の難しい常識レベルの知識」が思いがけずに難敵だった。なぜなら人工知能は、自然言語の『意味』を理解していないため、一般常識を、うまく訳せなかったからである。こうした問題点を含みながらも、第2次ＡＩブームにのって第5世代コンピュータプロジェクトが強力に推進されていった。このプロジェクトは、1982年から10年間にわたり570億円を投じた日本の国家プロジェクトであり、最終的には「並列推論マシーン」を完成させることができた。しかし、全く使われなかったのである。

全く使われなかった要因は、3つある。第1は、フレーム問題を解決できなかったことである。フレーム問題とは「関係ある知識だけを取り出して、それを使う」という人間なら当たり前にやっているその作業がＡＩにとって困難だという問題である。それは、ＡＩが文脈すなわちコンテクストを読めないことからもたらされる。第2は、シンボル（記号）とそれを意味するものがグラウンドしていないというシンボルグラウンディング問題（記号接地問題）を、ＡＩが解決できなかったことである。そして第3は、自然言語で表される「常識レベルの知識」を獲得することができなかったからである。人間が日常的に使っている曖昧で多義的で膨大な量の「常識レベルの知識」を、この時点のＡＩは、獲得できなかったと言える。こうして第2次ＡＩブームは終焉する。その後、1990年代から2000年代にかけて、再び「冬の時代」が続くことになった。

しかし2010年代に至ると、新たな方法論の採用とインターネット網が地球全体に張り巡らされるようになったことが相乗効果を生み、第3次ＡＩブームを巻き起こしていく。

第2次ＡＩの限界を突破するために、新たな方法論としてライトウェイト・オントロジーが活用されることになる。ライトウェイト・オントロジーとは、人工知能でデータを読み込ませて、概念間の関係性を見つける方法論であり、完全に正しいものでなくても、使えるものであればよいという考え方である。いわば効率を重視し、パーフェクトを求めない考え方である。

併せてインターネットを世界中の人間が、日常的に使うようになり、ビッグデータが日々生成されるようになった。このビッグデータをリソースに統計処理し、パターンや特徴量を見いだせるようにしたのが、第3次ＡＩの実体だったと言える。加えて2012年に、大量の動画を学習することでＡＩが猫を認識したとグーグルが発表し、ディープラーニングという手法が脚光を浴びるようになった。

このようにして第3次ＡＩブームでは、「ビッグデータ・統計処理・ディープラーニング」がキーワードになっていった。この2010年代から現在まで続く第3次ＡＩに終息の兆しはない。というよりも、あらゆる業種・業務に多様な形態でＡＩシステムが導入されるようになり、大企業から中堅・中小企業へと導入の範囲は急速に広がりつつある。

そうした第3次ＡＩの一環として、生成ＡＩであるチャットＧＰＴも登場することになったのである。チャットＧＰＴは、すでに述べたように、自然言語処理モデルから成り立っている。自然言語処理は、ＡＩにおける最も難しい分野のひとつである。なぜなら日本語に限らず各国語共に言語は、多義的で文脈に依存し、会話において共通の背景知識を持っているからである。そのためルールに基づいた記号的な手法では、言語の多義性や繊細さを、捉えることができなかった。

そこで統計学的な手法に転換することになる。大量の文章例を統計処理して、言葉の並びが現れるパターンや、ある言葉が別の言葉の近くに現れるパターン、すなわち使用頻度や共起関係を調べていった。その結果、そこそこ適切な人間らしい文章や会話ができるようになったのである。したがって、チャットＧＰＴは、人間と異なり、言葉も文章の意味も文脈も全く理解していない。そして第3次ＡＩブームで広がりつつある他のＡＩと同じように、深層ニューラルネットワークを利用しているが、あくまで専用ＡＩに過ぎない。但し膨大なデータを利用した巨大な自然言語処理モデルであるため、量の指数関数的拡大が、あたかも言葉や文章や文脈をチャットＧＰＴ自体が理解しているような壮大な錯覚を与えることになる。

一部の専門家は、第4次ＡＩの到来だと言い始めているが、その根拠が示されていない。ましてやチャットＧＰＴが、人間の知覚メカニズムに近い「強いＡＩ」となり、シンギュラリティの到来を実現すると主張するのは、歴史的位置付けを完全に誤っていると言わざるをえない。それ以前に、チャットＧＰＴは、フレーム問題も、構造主義につながる言語の恣意性を論じる記号接地問題も解決できていない。

このようにチャットＧＰＴを、「言語学を土台に巨大化する万能な構築物」として捉えることは、はなはだしい過大評価であり、「言葉や文章の意味を全く理解していない砂上の楼閣」に過ぎないという醒めた眼が、一方で必要とされているのである。

〔3〕企業・自治体・大学における利活用の動向

とはいえ、企業・自治体・大学では、チャットＧＰＴの利活用が検討されつつある。

まず企業の動向だが、産経新聞による主要118社のアンケート調査が、現段階における全体のトレンドを示唆しているので引用する。51.7％の61社が「検討している」段階にあり、「全社的に活用を推奨している企業」は、3.4％4社と少なく、それに反して「活用を禁止している企業」が5.9％7社あり、指針が分かれている。加えて利用禁止・活用制限する方針をだしている大手金融機関・ＩＴ企業が散見される。筆者の調査によれば、現時点で積極的にチャットＧＰＴを利活用している企業は、12社だった。全体としては、ガイドライン策定予定企業が多く、今後どのようなルールづくりをするか、追跡する必要がある。

自治体に関しては、未だ利活用が難しい段階にある。なぜなら現段階のチャットＧＰＴには、日本社会や日本史の分野での基礎知識が乏しく、もっともらしいレポートは作成できるが、間違いを幾つも捏造するからである。そうした厳しい制約条件の中で、東京都をはじめ調査した8つの自治体がチャットＧＰＴの利活用に向けたガイドラインを作成しようとしている。中でも、横須賀市と長野県飯島町が積極的に試験運用をスタートさせた。それに対し、鳥取県は、県知事の判断により、議会の答弁書・予算・政策策定など県の意思決定に関する事項は、禁止とした。筆者は、この県知事の冷静な判断を評価したい。

大学に関しては、利活用に関する指針が発表されつつあるので、調査した22大学に関し、概観したい。まず東洋大学情報連携学部は、チャットＧＰＴの制約無しの利用を推奨している。これに対し東京大学は、学生本人によるレポート作成を前提としている。このようにレポート作成において、チャットＧＰＴ利用に制約条件を設け、教員の許可がなければ利用できない大学は77％17大学に及んでいる。比較的ゆるやかな指針としては、早稲田大学が「生成ＡＩの適切な使い方ができるよう、日頃から『たくましい知性』を鍛えておくことが大切」としている。東京工業大学も「良識と生成系ＡＩを道具として使いこなすことを期待」しているというメッセージを発信している。

〔4〕生成ＡＩが社会に与えるインパクト

以上の利用動向を踏まえ、近未来を展望して危惧されるのは、生成ＡＩがインテリジェンスの高い職業と競合し、若いビジネスパーソンの知的劣化をもたらすことである。しかし当面は、ビジネスパーソン・官僚・自治体職員の仕事である文書やレポート作成を、チャットＧＰＴが代行することで、事務効率はアップすると予測されている。

とはいえ、最新のチャットＧＰＴ4でも、正解率は85．5％である。ということは、1000の回答のうち145の回答には誤りがあり、噓を捏造しているということになる。この誤りを修正する作業と、チャットＧＰＴに頼ることによる利用者である人間自身の文書・レポート作成能力の低下が相俟って、中期的に視ると事務効率はさほど上がらず、組織としての問題解決能力は低下する可能性さえあることを想定すべきではないだろうか。

かつてＡＩ学者の新井紀子氏が主張した「教科書を読めない子供たち」が増えると共に、「レポート・論文を自作できない創造力の枯渇した若いビジネスパーソンや学生」の急増が心配である。

筆者は、この心配が杞憂ではないと思えてならない。そもそもチャットＧＰＴが作成した文章やレポートを参考に、修正を加えて、自分が書いたと判断するのは、完全に間違っている。自らの知的怠慢を覆いつくすことによるリスク、知的劣化が進行するリスクを自覚すべきである。若いビジネスパーソンや学生は、白紙の状態から苦労して文章を書き、試行錯誤しながらレポートにまとめる努力が、洞察力や構想力の醸成につながっていくという発想を持つべきなのである。

加えてプライバシーや著作権問題の深刻化が進行しつつある。すでにチャットＧＰＴや画像生成ＡＩが、クリエーターの職業を、現在進行形で脅かす存在になりつつある。この5月に日本芸能従事者協会が、イラストレーター・小説家・写真家・ゲーム制作者などのクリエーターを対象に、ネットでアンケートを実施した。2万6891の回答が寄せられ、「ＡＩによる権利侵害などの弊害に不安はあるか」の質問に、93.8％が「不安」と回答し、「ＡＩの推進で仕事が減る心配はあるか」という問いには、58.5％が「ある」と回答している。自分の作品が同意なく生成ＡＩの学習データになる事例がすでに2611件もあり、このことに疑問を抱くクリエーターが多く、ＡＩの開発者との信頼関係が壊れ始めている。人間第1のルール設定がなければ、新しい作品を生み出す意欲が失われ、結果的に業界の停滞を招いてしまうことが、危惧されている。

このように生成ＡＩが社会に与えるインパクトを概観してみると、プラス面よりも、人間にしかできない聖域ともいえる芸術さえもがＡＩに浸食される、人類史上かつてないリスクを内包しているマイナス面が浮かび上がってくる。

ここで18世紀の産業革命にまでさかのぼり、「人間―機械系システム」発展の歴史を振り返ることにしたい。マルクスは『資本論』「第13章　機械装置と大工業」において、蒸気機関によって作動する工場を生き生きと描き出している。まさにモノづくりのための「人間―機械系システム」が完成し、その後「テーラー科学的管理法」の適用によって、本格的な工業化社会が発展していく。

そして20世紀後半に至ると「情報処理機械としてのコンピュータ」が社会の隅々まで導入され、社会の情報化が急進展する。事務部門における計算やルーチン化できる仕事がコンピュータ化され、「人間―機械系システム」の範囲は、モノづくりに加え情報処理の分野にまで拡大されていく。

但し知識創造の仕事だけは、人間にしかできない固有の仕事とされてきた。しかし2010年代後半から第3次ＡＩブームとなり、ＡＩシステムがさまざまな業種の企業で導入されて、知識創造は人間とＡＩの協業によって担われるようになった。まさにＡＩの登場によって、「人間―機械系システム」の範囲は、モノづくり・情報処理に加え、知識創造の分野にまで拡大されてきたのである。とはいえ、知識創造の主役は人間であり、ＡＩはあくまで補完的役割を担うに過ぎないと位置付けられてきた。

ところが生成ＡＩの登場により、この協業における役割分担が微妙に崩れつつある。すでに生成ＡＩに、市場調査や企業戦略の策定を依頼したり、絵画や音楽や小説を作成させ芸術領域に土足で踏み込んでみたり、ついには人生相談する人間まででてきている。このように生成ＡＩを無原則に利活用して、日本社会を活性化させ、さらには欧米に先行すべく前のめりになって日本経済の競争力復活に結び付けようとする安易な戦略は、知らぬ間にルビコン川を渡ってしまうリスクを抱えていることを自覚しなければならない。

国会答弁に生成ＡＩを使うことが検討され、自由な市民同士の対話に、生成ＡＩが過度に介在するようになれば、民主主義は終焉する。その後は、姿なきビッグブラザーに監視され、知性なき生成ＡＩに翻弄されるディストピアが、世界を覆い尽くす可能性が高まっていく。そうならないためにも筆者は、現在の生成ＡＩが、言葉も文章の意味も全く理解していないことを醒めた目で冷静に把握し、「知識創造の主役は、あくまで人間」であることを忘れるべきではないと主張したい。