データ解析の結果が客観的なように見えて、実は既存の差別構造を再生産してしまう可能性もあるのです。

また、誤判定（偽陽性）が多いほど、罪を犯す意図がない人までが「潜在的な殺人犯」とみなされ、警察や司法から過度に監視される懸念も無視できません。

さらに、こうした予測ツールを使うことで「まだ殺人を起こしていない人」に先回りして介入を行う、いわゆる“予防的ポリシング（Pre-emptive Policing）”が加速する恐れがあります。 

事前に危険だと判定された人に対して、警察が特別な監視を行ったり、社会福祉の名目で行動を制限したりする事例が増えるかもしれません。

日本にも精神保健福祉法に基づく強制入院のしくみ（措置入院）があり、自他に重大な危害を及ぼすおそれがあると判断された場合に行政が介入できる仕組みがあります。

もっとも、措置入院の目的はあくまで患者の治療と周囲の安全確保であり、どの程度予測的に活用するかは慎重に考えられています。

それでも、こうした「先手を打つ」制度やテクノロジーの導入は、人権やプライバシーとの兼ね合いがきわめて難しいテーマです。

もしも誤った判定で何らかの制裁や監視が強化されてしまうと、社会的スティグマを生むばかりか、当事者の生活を大きく狂わせる要因となりかねません。

しかも、この「誤判定」が比較的起こりやすいのが、もともと警察との関わりが多いコミュニティや、精神的・経済的に厳しい状況に置かれた人々である可能性が高いのです。

そうした人たちがさらなる孤立や不信感を抱くことで、むしろ“犯罪リスク”が増幅してしまうという逆説的なシナリオも考えられます。

イギリス政府は「現段階では研究目的」と強調していますが、以前から存在しているOASysなどの再犯予測ツールが“研究段階”から“実務段階”へ移行したように、技術が完成度を高めるにつれて運用範囲が広がることは十分に考えられます。