Asuu

自分の限界を知る機械。

モデルが言える最も役に立つことは、ときに、分からないということです。

研究の方向性。未検証です。

このページの内容

分かっていること。

優れた若手医師には、何よりも大切な習慣が一つあります。手に負えない症例に出会ったら、そう言って、誰かを呼びに行くことです。今のモデルには、それが欠けていることが多いのです。自分の経験の外にあることを尋ねられても、何にでも使うのと同じ、なめらかで自信に満ちた声で答えます。

これには物差しがあります。九十パーセントの確信で出した答えのうち、十のうち九が正しければ、そのモデルはよく較正されています。2017年に研究者は、当時使われ始めていた大規模なニューラルネットワークが、正しさよりも著しく自信過剰であることを示しました。

未解決の問い。

正確さは、モデル評価の一部にすぎません。確率の校正、不確実性、回答を控える判断も研究されています。Asuuは、用途を定めた医療利用において、これらの特性をどう測り、判断に責任を持つ人へ明確に示せるかを考えています。

Asuu にできること。

コアプロトコルは、すでにこれを安全の問題として扱っています。確信度が正確さから離れていったモデルは停止されます。独立した検査者はさらに進んで、正確さと並べて、自らの限界についての正直さでもすべてのモデルを採点できます。

記録は、モデルが一歩退いた場面を一つひとつ残しておけます。そしてアシスタントは、ベッドサイドでの振る舞いの第一の規則を守らなければなりません。分からないことを、はっきり言うという規則です。

私たちはモデルを、どれだけ頻繁に正しいかで順位づけています。間違っているときをどれだけ分かっているかも、問うべきです。

最初の実験。

自由に入手できるモデルを選び、同じ医学の問題で二度採点します。一度は正しいかどうか、もう一度は、間違っていそうなときにそれを分かっているかどうかです。二つの表を並べて公表します。二つの順位が同じなら、新しく測るものは何もありません。私たちは、同じではないと考えています。

うまくいかないとしたら。

断りすぎるモデルは役に立たず、断るたびに仕事は疲れた臨床医に戻されます。作り手が、難しい症例を避けることを覚え、それで成績をよく見せることもありえます。採点は、不要な拒否を、自信に満ちた誤りと同じ厳しさで罰するものでなければなりません。

出典と適用範囲

ここに挙げた研究は、研究課題の背景となるものです。Asuuが提案する方法の有効性を示すものではありません。ここで述べる実験は、まだ実施していません。

参考資料には英語のものがあります。

つながっているページ。

あなたの地平線はどれですか?

あなたがこれらの分野のいずれかで働いている場合、私たちはその分野に何が必要かを理解したいと考えています。