誰 は、集団の健康を促進し保護するために大規模マルチモーダル モデル (LMM) を適切に使用するための倫理とガバナンスに関する新しいガイダンスを発行しました。 LMM は急速に成長している生成ツールの一種です 人工知能 健康に 5 つの幅広い用途を持つ (AI) テクノロジー in
1. 患者の書面による質問への回答など、診断および臨床ケア。
2. 症状や治療の調査など、患者の指導のもとで使用する。
3. 電子医療記録内で患者の訪問を文書化し、要約するなどの事務および管理業務。
4. 研修生に患者との模擬体験を提供することを含む、医療および看護教育。
5. 新しい化合物の同定を含む科学的研究および医薬品開発。
しかし、医療におけるこれらのアプリケーションには、虚偽、不正確、偏った、または不完全な記述が作成されるリスクがあり、健康に関する意思決定を行う際にそのような情報を使用する人々に損害を与える可能性があります。さらに、LMM は、人種、民族、祖先、性別、性同一性、または年齢に関係なく、低品質または偏ったデータでトレーニングされる可能性があります。また、最高のパフォーマンスを発揮する LMM へのアクセスや手頃な価格など、医療システムに対する広範なリスクも存在します。また、LMM は、医療専門家や患者による「自動化バイアス」を助長する可能性もあり、それにより、LMM がなければ特定されるはずのエラーが見落とされたり、難しい選択が不適切に LMM に委任されたりする可能性があります。 LMM は、他の形式と同様に、 AI、また、患者情報やこれらのアルゴリズムの信頼性、より広範な医療の提供を危険にさらす可能性があるサイバーセキュリティのリスクに対して脆弱です。
したがって、安全で効果的な LMM を作成するために、WHO は政府および LMM の開発者に推奨事項を作成しました。
政府には、LMM の開発と展開、および公衆衛生と医療目的での統合と使用に関する基準を設定する主な責任があります。政府は、公共、民間および非営利部門の開発者がアクセスできるコンピューティング能力や公開データセットを含む、非営利または公共のインフラストラクチャに投資または提供する必要があり、ユーザーは倫理原則と価値観を遵守する必要があります。アクセス権を交換します。
· 法律、政策、規制を利用して、関連するリスクや利益に関係なく、LMM とアプリケーションがヘルスケアと医療で使用されることを保証します。 AI テクノロジーを活用することで、個人の尊厳、自律性、プライバシーなどに影響を与える倫理的義務や人権基準を満たします。
· リソースが許す限り、ヘルスケアまたは医療での使用を目的とした LMM およびアプリケーションを評価および承認するために、既存または新規の規制当局を割り当てます。
· LMM が大規模に導入される場合、データ保護と人権を含む独立した第三者によるリリース後の監査と影響評価を必須に導入します。監査と影響評価は公開されるべきです
また、年齢、人種、障害など、ユーザーの種類ごとに分類された結果と影響を含める必要があります。
· LMM は科学者やエンジニアだけによって設計されているわけではありません。潜在的なユーザーと、医療提供者、科学研究者、医療専門家、患者を含むすべての直接的および間接的な利害関係者は、治療の初期段階から関与する必要があります。 AI 構造的で包括的で透明性のあるデザインの開発と、倫理的問題を提起し、懸念を表明し、意見を提供する機会が与えられます。 AI 申請は検討中です。
LMM は、医療システムの能力を向上させ、患者の利益を促進するために、必要な精度と信頼性で明確に定義されたタスクを実行するように設計されています。開発者は、潜在的な副次的結果を予測して理解できる必要もあります。
***
情報源：
WHO 2024。健康のための人工知能の倫理とガバナンス: 大規模なマルチモーダル モデルに関するガイダンス。で入手可能 https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
