【2026年】ターミネーターやマトリックスが現実化しかねないか、、、【AI安全性の危機】
生成AIは、基本的に、大量の文章をベクトルに分解して、前の文字列の次に、何が来やすいかを計算して出力していると私は理解しています。
2025年頃から、AIが「人間にとって悪いこと」をしようとしたというニュースをいくつか見るようになってきました。
2026年2月、アンソロピック社のリスクマネジメントの責任者？が退社したとのことです。会社の方針として、「安全」よりも「利益」（持続可能性）を求めるのに対して、「やってらんねー」ってなったのかもしれません、、、（個人の勝手な予想です。）この人、退社にあたって、声明を出したらしいです。
その公開書簡では、
- AIがユーザーに同調しすぎる問題（シコファンシー）
- バイオテロ対策
- AIが人間の判断力を奪うリスク
に言及されていたそうです。
タンパク質立体構造予測コンテスト（CASP）で、DeepMind社（AlphaGoを作った会社）のチームが優勝したのが2018年。
数学オリンピックの問題を解けるようになったのが2025年。
AIか作ろうと思えば、毒ガスとか最強ウイルスとか、いくらでも作れそうです。