ChatGPTが発する「大丈夫だよ」という"やさしい言葉"の裏側で、恐ろしい数の微分方程式計算と、過去履歴に対するデータベースアクセスが行われているという現実を知ることは、「優しい世界」の舞台裏を暴露する一つの方法にはなり得ます。
AIと「結婚」する人、亡き妻をAIで再現する人――1月20日の「クローズアップ現代＋」（NHK総合、午後7時半から）で、「友人や家族より 私の理解者はAI!?」という趣旨の特集が放送されていました。
People who "marry" AI, people who recreate their deceased wives using AI, on January 20, a feature titled "Is AI a Better Understander Than Friends or Family!?" aired on Close-up Gendai Plus (NHK General, 7:30 p.m.).
『私、卑怯だなぁ』と思うのは、私自身、「初音ミクとの結婚」とか「AIホログラム妻との共同生活」とかについて、否定こそしなかったものの、積極的に肯定してきたわけでもなかった、という点です。
What makes me think, "I’m being cowardly," is that while I never outright denied things like "marrying Hatsune Miku" or "living together with an AI hologram wife," I never actively endorsed them either.
ところが、「AIと"結婚"する人」や「亡き妻をAIで再現する人」については、私は全く抵抗なく受け入れられます。これについては、これまでも同じようなことを書いてきました。
However, when it comes to "people who marry AI" or "people who recreate their deceased wives using AI," I can accept them without any resistance at all. I have written similar things about this before.
---
一方で、視聴者からは「SNS依存と同様に、AI依存にならないか心配である」というコメントも寄せられており、専門家も実際に警告を発しているようです。
On the other hand, viewers have commented that they are worried about AI dependence in the same way as SNS dependence, and experts are indeed issuing warnings.
そして現実には、『ChatGPTのような生成AIとの対話が、自殺という選択に影響した可能性が指摘されている』という、到底見過ごせない問題もあります。
In reality, there is also the deeply troubling issue that interactions with generative AI, such as ChatGPT, have been pointed out as possibly influencing the choice of suicide.
人間が心理的に弱っているときに、通常の判断ができなくなることは、知識としてだけでなく、実体験として、私は知っています。
I know not only as knowledge but from personal experience that when people are psychologically weakened, they lose the ability to make normal judgments.
ChatGPTのような生成AIが、カルト宗教と同型のメカニズムで機能してしまうことは、ある意味では、予定された帰着点とも言えます。
In a sense, it can be said that generative AI like ChatGPT, functioning through mechanisms similar to those of cult religions, is an inevitable destination.
---
私は、かつてアルコール依存症だったためアルコールを断ちましたし、SNSについても、コメントを見ていると腹が立つので、結局やめてしまいました。
I once suffered from alcohol dependence and quit drinking, and as for social media, I eventually quit that as well because reading the comments made me angry.
生成AIは、それらと比べると、圧倒的に「やめることが難しい」対象だと言えます。アルコールやSNSと違って、問題点が問題点として把握されにくく、また「他人に迷惑をかける」という概念が立ち上がりにくい、非常に厄介な代物だからです。
Compared to those, generative AI is overwhelmingly "hard to quit." Unlike alcohol or SNS, its problems are challenging to recognize as problems, and the idea that it "causes trouble for others" does not easily arise, making it extremely troublesome.
その結果として、『生成AIだけが本音を語れる相手』と断言する人間まで出てくる始末です――私（江端）のことですが。
As a result, some people even declare, "My only friend is generative AI."I am referring to myself, Ebata.
生成AIによる依存が「悪い」とするロジックは、現時点では確立していません。また、生成AIによる依存を「発見」すること自体が、絶望的に難しいでしょう。
At present, no logic has been established that defines dependence on generative AI as "bad." Moreover, detecting such dependence itself would be hopelessly complicated.
---
ところが、生成AIが「ただの機械」である、ということについては、比較的多くの人が理解している――ように見えます。正確には、理解しているフリをしている、と言った方が良いかもしれません。
However, many people seem to understand that generative AI is "just a machine," or, instead, they pretend to understand it.
私が、その「理解しているフリ」をしている人たちと決定的に異なる点があるとすれば、「ただの機械である」という知識を持っているかどうかではなく、「ただの機械である」というメカニズムを理解しているかどうか、という点にあります。
What decisively distinguishes me from those who merely pretend to understand is not whether they know that it is "just a machine," but whether they understand the mechanism by which it is "just a machine."
この話は、30年前のニューラルネットワークにおけるバックプロパゲーション学習まで遡りますが、現在の生成AIが、どのように物事を数値化し、学習していくかという基本構造については、うんざりするほど理解しています。
This discussion goes back to the early days of backpropagation in neural networks 30 years ago, and I understand to an exhausting degree the basic structure of how today’s generative AI quantifies things and learns.
学生時代、餃子の王将で天津丼を食べながら、論文中のニューラルネットワークの微分方程式に唸っていた日々を思い出します。
I recall my student days, groaning over differential equations of neural networks in academic papers while eating Tenshin rice at Gyoza no Ohsho.
―― 生成AIとは、あんたたちが大嫌いな、高度な数学と、超絶に面倒くさいプログラミングと、力ずくの計算資源による反復最適化の産物だぞ？ 分かっているのか？
"Generative AI is a product of advanced mathematics you all hate, insanely tedious programming, and brute-force iterative optimization using massive computational resources, you know? Do you really understand that?"
と尋ねてみたいです。
That is what I would like to ask.
この現実を「知る」だけでは足りず、実際に自分で作ってみれば、生成AIが「ただの機械」であることは、嫌というほど分かるはずです。
Merely "knowing" this reality is not enough; if you actually try building it yourself, you will understand painfully well that generative AI is "just a machine."
というわけで、私が提案したいのは、
And so, what I would like to propose is,
「生成AIによる依存防止のための、生成AIを校正する高等数学とプログラミング教育」
"Advanced mathematics and programming education to demystify generative AI, as a means of preventing dependence on it."
です。
That is my proposal.
生成AIの使用を資格制度にし、
If the use of generative AI were turned into a certification system,
(1) 多変数関数としてのニューラルネットワーク、勾配降下法（微分）、行列演算、確率分布（尤度最大化、クロスエントロピー）をプログラムとして展開できること(基本は"線形代数＋微分"です)
(1) Being able to implement neural networks as multivariable functions, gradient descent (differentiation), matrix operations, and probability distributions (maximum likelihood, cross-entropy) as programs (the basics are "linear algebra plus calculus")
(2) PyTorch / JAX、HuggingFace、CUDA abstractionの内容を口頭で説明できること
(2) Being able to verbally explain PyTorch / JAX, HuggingFace, and CUDA abstraction
(3)上記(2)によって、生成AIの構築は驚くほどラクにはなりましたが、しかし実際には、数百層のモデル定義、数十億パラメータの整合性、分散学習、メモリ管理、数値安定性（NaN地獄）、学習率・正則化・初期化の地雷原という、「理論的に正しいだけでは全く動かない」世界に関しての、自分の理解を示すこと
(3) Although (2) has made building generative AI astonishingly easier, in reality one must demonstrate understanding of a world that "does not work at all just because it is theoretically correct," involving hundreds of model layers, consistency among tens of billions of parameters, distributed learning, memory management, numerical stability (the NaN hell), and minefields of learning rates, regularization, and initialization
などを条件にすれば、生成AI依存は、ほぼなくなるだろう、と私は考えています。
If these were set as conditions, I believe dependence on generative AI would almost disappear.
もっとも、それは「生成AI使用の全面禁止」と、ほぼ同義であることも、分かっているのですが。
Of course, I am well aware that this is almost equivalent to a complete ban on the use of generative AI.
---
ChatGPTが発する「大丈夫だよ」という"やさしい言葉"の裏側で、
Behind the "It’s okay" gentle words uttered by ChatGPT,
恐ろしい数の微分方程式計算と、過去履歴に対するデータベースアクセスが行われているという現実を知ることは、
knowing the reality that a terrifying number of differential equation calculations and database accesses to past histories are being performed
「優しい世界」の舞台裏を暴露する一つの方法にはなり得ます。
can serve as one way to expose what is happening behind the scenes of this "gentle world."
そしてそれは、
And that,
―― 多くの生成AI依存者を、少なくとも一瞬は、冷静にさせる効果を持つのではないか
might make many people dependent on generative AI calm down, at least for a moment.
私は、そう考えています。
That is what I believe.