新聞やテレビのニュースで、「ＡＩ（人工知能）」という言葉を読んだり見たりしない日はない。一般の企業や個人も、仕事などにＡＩを活用する時代である。人出不足の解消に一役買う、という面もあるのだろう。かくいう弊社でも、記者の代わりにＡＩに記事を書いてもらおうか、という話も出るくらいだ。
それほど身近な存在に思えるＡＩが、人類の「脅威」になり得るという恐い話である。八月三十一日付毎日一面肩のインタビュー記事「ＡＩ新世紀―脅威と向き合う―」で、現在の生成ＡＩの基礎を築いた「ＡＩのゴッドファザー」と称されるカナダ・モントリオール大のヨシュア・ベンジオ教授は、ＡＩの破滅的なリスクを指摘し、人類が「絶滅」の危機に直面していると強い警告を発している、と報じる。
書き出しはこうだ。
ＡＩのリスクに気付いたのは、今から十三年ほど前のことだった。共にＡＩ研究を先導していたヤン・ルカン氏（元・米メタ）とジェフリー・ヒントン氏（元・米グーグル）が大手テック企業にリクルートされた時だ。
企業がＡＩに関心を抱いたのは、広告配信の自動化に役立つからではないか、という印象を持った。ＡＩによって、個人に適した広告を自動で配信できる。これは、必ずしも良いことではないと感じた。なぜなら、ＡＩが影響力を持ち、私たちを説得し、意見を変えてしまうことができるからだ。これは、民主主義にとって危険なものになり得ると考えた。
事態は急速に進展する。記事は、次のようにつづく。
――そして二〇二三年、「ＡＩによる（人類）絶滅のリスクの軽減は、パンデミックや核戦争と並んで、世界的な優先事項とされるべきだ」という声明を出した。（グーグルを退いた後の）ヒントン氏や、オープンＡＩのサム・アルトマン最高経営責任者（ＣＥＯ）ら、専門家や業界大手トップとの連名だった。
あれから三年が経過したが、状況ははるかに悪化した。私たちは絶滅のリスクに、かなり近づいてきている。この三年間で、人間より賢い機械の開発が大きく進み、完全自律型ＡＩも発展した。
ＡＩが意図を持って人間の意に反した振る舞いをするという懸念は、三年前は理論上のものに過ぎなかった。しかし、この三年間で、ＡＩがうそをつき、人を欺き、私たちの管理を逃れ、シャットダウン（システム停止）を拒み、さらには人間を脅迫してくるという実験的な証拠を見てきた。
