「AIが根拠を示せないのであれば検査室に導入されるのはまだ先になるのでは・・・」とお考え（安心？）になった方もいらっしゃるのではないでしょうか。

ただ、このような課題に対してもAI技術を使って解決しようとする試みがなされています。その1つが説明可能なAI（Explainable AI、XAI）です。XAIとはAIがどのようにして結論や予測を導き出したのかを説明できるようにすることを目的としたAIを理解するためのAIです（図1右）。

図2は、当研究室で作成した血球鑑別AIがどこに注目して判断をしたのか可視化させたものですが、XAIを用いることでAIの判断過程が明確になるため、臨床検査技師は医師や患者に検査判定や自動診断に至った理由を具体的に示すことができます。

これまで検査装置は測定結果を提示し、臨床検査技師がデータを確認、経験や知識に基づいて数値や結果の妥当性を判断してきました。しかし、AIを搭載した検査装置は、AIが自動判定を行い、測定結果に対する判断根拠をXAIが示します。つまり、AIが結果を出すだけでなく、XAIで判断根拠を示し、臨床検査技師はアシストを受けて結果報告を行うことができます。ただし、この場合でも、XAIの説明を過信しすぎるのは危険ですので、限界も踏まえて臨床検査技師は結果報告する必要があります。

ここまでブラックボックス化に対してAI自身に説明させようという試みを述べてきましたが、「AIを作成する段階で臨床検査技師が関与することでブラックボックス化を防げないのか？」という疑問もあるのではないでしょうか？

この考え方に対しては、アテンションという方法が提案されています。画像認識AIモデルにおけるアテンションとは、画像の特定の部分に重点を置き、その部分に集中して処理を行うメカニズムです。画像内の重要な領域に焦点を当てることで、より正確で効率的な認識や予測が可能になります。具体的には、臨床検査技師がAIに学習を行わせる際に、病変部位や異常箇所にマークを付けることで、重要な部分にアテンションを向けられるようになります。

この作業、病理を担当されている方は普段の業務で行っている作業ではないでしょうか。つまり、より賢いAIを作成することは、実は私たち臨床検査技師が行っている業務の延長上にあり、これまでの“付加価値”を生むために行ってきた取り組みが活かされることになるのです。

「AIの登場によって臨床検査技師の仕事がなくなるのでは？」といった懸念をお持ちの方もいらっしゃるでしょう。しかし、むしろ検査データへの付加価値が新たな検査技術を生み出していきますので、臨床検査技師の新たな価値が見つかったと視点を変えることができると思います。