BS世界のドキュメンタリー「ゲーム・オブ・ドローンズ AI兵器の“倫理”は」を見ました。
I watched the BS World Documentary titled “Game of Drones: The ‘Ethics’ of AI Weapons.”
正直に言いますが、冷戦時代の核兵器開発が、まさかドローン兵器開発につながるとは、予想もできませんでした。
To be honest, I never imagined that the nuclear weapons development of the Cold War era would eventually lead to the development of drone weapons.
「ロボット戦争」の方が、まだ予想の範囲内だったと言えます。
If anything, a “robot war” would have been easier to imagine.
私は、ドローン兵器は『主流』にならないだろうと思っていました。理由は通信路(電波)の問題です。ジャミング(妨害電波)がボトルネックになると考えていたからです。
I used to think that drone weapons would never become the “mainstream.” The reason was the communication channel—the radio waves. I believed that jamming (interference signals) would inevitably become the bottleneck.
実際に、ジェームズ・P・ホーガン著の「未来の2つの顔」では、ドローンが主力兵器となって人間と戦うシーンが出てきますが、そこでもやはりドローンの弱点は電波という設定になっていました。
In fact, in *The Two Faces of Tomorrow* by James P. Hogan, there is a scene in which drones become the main weapons against humans, and even there, the weakness of the drones is portrayed as their reliance on radio communication.
ところが、現実は違う方向に進みました。
However, reality has taken a different path.
まさか、ドローンに搭載される高々数千円(下手すると数百円)のマイコンに、自律型AIソフトが搭載できる未来が来るとは思わなかったのです。
I never imagined a future in which autonomous AI software could run on a microcontroller costing only a few thousand yen—sometimes even just a few hundred yen—mounted on a drone.
ミサイル一発が数百万から数千万かかるのに対して、ドローンのコストは、ラズパイ(マイコン)が1万円、カメラが3000円程度、(ドローン本体の値段は私は知りませんが)これで自律型の殺人AIが2万円弱で実現できてしまう訳です。
While a single missile costs anywhere from several million to tens of millions of yen, a drone might consist of a Raspberry Pi (microcomputer) for about 10,000 yen and a camera for around 3,000 yen (I don’t even know the price of the drone body itself). Yet with this, an autonomous killing AI can be realized for less than 20,000 yen.
これは、戦争産業の革命と言ってよいでしょう。
This could rightly be called a revolution in the war industry.
---
そして、この技術の変化が意味していることがあります。
And there is something that this technological shift implies.
兵器の製造が、国家や巨大な軍需産業の独占ではなくなりつつある、ということです。
It means that the production of weapons is no longer the exclusive domain of states or massive military industries.
つまり、兵器の「知能エンジン」が、急速に民主化しているのです。
In other words, the “intelligence engine” of weapons is rapidly becoming democratized.
それでですね ーー
And here is the point—
皆さん見落としているかもしれませんが、『江端程度のエンジニアでも、この殺人ドローン(の知能エンジン部)を作成できます』。
You may have overlooked this, but even an engineer of my modest level could build the intelligence component of such a killing drone.
多分、ラズパイと画像処理ができるエンジニアなんて、その辺の学生でも可能ですし、高校生でも十分にスコープに入ってきます。
Engineers capable of working with Raspberry Pi and image processing are everywhere—ordinary students could do it, and even high school students fall within that scope.
私を拉致して拷問するより、最低賃金でアルバイト感覚で作ってくれる学生に、最低賃金の3倍も払えば、喜んで作ってくれると思います。
Rather than kidnapping and torturing someone like me, you could simply pay a student three times the minimum wage, and they would probably build it for you happily as a part-time job.
プログラムを知らない人間でも、多分半年あればAIのコーディングはできるようになります。そこは賭けてもいい。
Even someone who doesn’t know programming could probably learn to code AI within six months. I’d even bet on that.
私が言いたいのは、『殺傷兵器(の知能エンジン部)のオープン化』です。
What I am saying is this: the “intelligence engine” of lethal weapons has become open.
かつて核兵器は国家しか持てない兵器でした。
Nuclear weapons were once weapons that only states could possess.
しかしAIドローンは、個人でも作れる兵器になりつつあります。
But AI drones are becoming weapons that individuals can build.
---
こうなると、問題は戦場ではなく社会になります。
Once that happens, the problem shifts from the battlefield to society.
自爆型ドローンが戦場から街にやってくるのは、時間の問題だと思います。
It is only a matter of time before suicide drones move from the battlefield into our cities.
カルト宗教によるテロとか、そういうレベルの話ではありません。
This is not merely about terrorism by cult groups.
個人の私怨レベル、例えばストーカーが昔の恋人やアイドルを殺害する、といったことが比較的簡単に実行できてしまう未来です。
We are talking about personal grudges—situations where a stalker could kill a former partner or even an idol relatively easily.
いや、未来というより、『すでに現在』と言ってよいかもしれません。
In fact, it may be more accurate to say this is already the present.
そして、これは防止するのが難しい。
And preventing it will be extremely difficult.
なにしろ、自律型の殺人AIはターゲットをロックしたら、電源が尽きるまでその人間を狙い続けることができるからです。
Once an autonomous killing AI locks onto a target, it can continue pursuing that person until its power runs out.
---
『死刑になりたくて人を殺した』という動機の犯罪が珍しくなくなっている昨今、犯罪の厳罰化による抑止はあまり期待できません。
Nowadays, crimes motivated by “I wanted to be executed, so I killed someone” are no longer rare, which means stricter punishments may not be an effective deterrent.
そして、おそらくエンジニアでない人には理解しにくいかもしれませんが、エンジニア(の一部)には、自分の作ったシステムには興味があるが、そのシステムによって『世の中がどうなるか』については、あまり深く考えない人がいます。
And this may be hard for non-engineers to understand, but some engineers are deeply interested in the systems they build, yet give little thought to how those systems might affect society.
――それは、それで、誰かが何とかしてくれるだろう
“Well, someone will figure that part out.”
という、社会に対する責任が欠如している人間が、少なからずいると思うのです。
There are not a few people who lack a sense of responsibility toward society.
Q:なぜ、私(江端)はそう思うのか?
Q: Why do I (Ebata) think so?
A:私(江端)が、そういう人間だからです。
A: Because I (Ebata) am that kind of person.
まあ、世の中、自分の行いが社会にどういう影響を及ぼすかを考えて生きている人は、それほど多くないと思います。
In reality, not many people live their lives constantly thinking about how their actions affect society.
しかし、エンジニアがそういうことに無頓着であることは、普通の人よりも危ういのです。
But when engineers are indifferent to such consequences, it is more dangerous than when ordinary people are.
彼らは独力でシステムを開発する能力がある分、たちが悪いのです。
Because they possess the ability to build systems entirely on their own.
---
以前もお話しましたが、エンジニアは、その気になれば比較的簡単に社会システムに干渉できます。
As I have mentioned before, engineers can interfere with social systems relatively easily if they choose to.
職種にもよりますが、その気になれば日本のインフラのいくつかを停止に追い込むことも不可能ではありません。
Depending on the field, it would not even be impossible to shut down parts of Japan’s infrastructure.
しかし
However—
『やれるけど、やらない』
“We could do it, but we don’t.”
これがエンジニアの矜持だ、という話を以前したと思います。
I believe I have said before that this is the pride of engineers.
ただし、覚えておいて頂きたいことがあります。
However, there is something you should remember.
もし、エンジニア全体を一斉に敵に回すような事態になれば、殺人AIを搭載した自律型ドローンで国内を混乱に陥れる程度のポテンシャルは、すでに存在しています。
If society were ever to turn all engineers into its enemies at once, the potential already exists to throw a country into chaos using autonomous drones equipped with killing AI.
---
高濃縮ウランを手に入れるのは難しいでしょう。
Obtaining highly enriched uranium is difficult.
しかし、ボードマイコンとカメラなら、秋葉原でもAmazonでも簡単に手に入るのです。
But board microcomputers and cameras can be easily purchased in Akihabara or on Amazon.
核兵器は国家しか持てません。
Nuclear weapons can only be possessed by states.
しかし、AI殺人ドローンは、個人が持てます。
But AI killing drones can be possessed by individuals.
そして技術史の経験則では、『作れるものは、必ず作られる』のです。
And according to the lessons of technological history, “if something can be built, it will eventually be built.”













