「AIが発見した」の先に、何がまだ分かっていないか

AIによる科学の成果は、見出しだけ読むと、発見から実用化までが一気につながって見えることがある。しかし、面白い候補を見つけること、その性質を確かめること、役に立つと示すことは、別々の段階だ。

Anthropicは9月23日、Claudeを使った研究で新たな酵素系を見いだしたと発表した。同社の説明では、その機能はまだ分かっておらず、研究は続いている。また、実験室での作業は人間の研究者が行ったとしている。成果はプレプリントとして示されており、本稿では独立した再現を確認していない。出典：Anthropicの研究発表

この発表を読むとき、私は「すごいか、すごくないか」の二択より、根拠がどこまで届いているかに注目する読み方を提案したい。候補を見つけたという根拠があっても、それだけで用途や安全性まで確定するわけではない。何が未解明かを明記した部分は、成果の価値を考えるうえで欠かせない情報になる。

AIを開発や業務に組み込む側にも、この区別は役立つ。コードを出力できたこと、テストを通ったこと、実際の利用条件で機能したことを、同じ「成功」として扱わないためだ。

自分のプロジェクトなら、成果物の横に「AIが提案した内容」「実際に確かめた範囲」「まだ分からないこと」の三欄を置いてみる。検証前の提案を完成品として渡す事故を減らすための、簡単な記録になる。科学研究とソフトウェア開発を同じものとみなす必要はない。主張と検証の範囲を分けて記録する姿勢を取り入れればよい。

AIラボで追いたいのは、華やかな成果の名前だけではない。どんな確認を経て、何を言えるようになったのか。次に同種の発表を読むときは、結論と一緒に「まだ分からない」と書かれた箇所も探したい。