問題の核心は、この予測AIの開発プロセスが完全なブラックボックスである点だ。民間企業が開発したアルゴリズムに対し、政府は「企業秘密」を理由に開示を拒んでいる。どのようなデータが重み付けされ、どのようなロジックで個人が評価されているのか、誰も検証できない。
民主主義社会において、検証不可能な権力ほど恐ろしいものはない。私たちは、機械が下す「判決」に無条件で従うだけの存在に成り下がろうとしている。
問題の核心は、この予測AIの開発プロセスが完全なブラックボックスである点だ。民間企業が開発したアルゴリズムに対し、政府は「企業秘密」を理由に開示を拒んでいる。どのようなデータが重み付けされ、どのようなロジックで個人が評価されているのか、誰も検証できない。
民主主義社会において、検証不可能な権力ほど恐ろしいものはない。私たちは、機械が下す「判決」に無条件で従うだけの存在に成り下がろうとしている。