誰 は、集団の健康を促進し保護するために大規模マルチモーダル モデル (LMM) を適切に使用するための倫理とガバナンスに関する新しいガイダンスを発行しました。 LMM は急速に成長している生成ツールの一種です 人工知能 健康に 5 つの幅広い用途を持つ (AI) テクノロジー in
1. 患者の書面による質問への回答など、診断および臨床ケア。
2. 症状や治療の調査など、患者の指導のもとで使用する。
3. 電子医療記録内で患者の訪問を文書化し、要約するなどの事務および管理業務。
4. 研修生に患者との模擬体験を提供することを含む、医療および看護教育。
5. 新しい化合物の同定を含む科学的研究および医薬品開発。
However, these applications in healthcare run the risks of producing false, inaccurate, biased, or incomplete statements, which could harm people using such information in making health decisions. Furthermore, LMMs may be trained on data that are of poor quality or biased, whether by race, ethnicity, ancestry, sex, gender identity, or age. There are also broader risks to health systems, such as accessibility and affordability of the best performing LMMs. LMMs can also encourage ‘automation bias’ by health care professionals and patients, whereby errors are overlooked that would otherwise have been identified or difficult choices are improperly delegated to a LMM. LMMs, like other forms of AI, are also vulnerable to cybersecurity risks that could endanger patient information or the trustworthiness of these algorithms and the provision of health care more broadly.
したがって、安全で効果的な LMM を作成するために、WHO は政府および LMM の開発者に推奨事項を作成しました。
政府には、LMM の開発と展開、および公衆衛生と医療目的での統合と使用に関する基準を設定する主な責任があります。政府は、公共、民間および非営利部門の開発者がアクセスできるコンピューティング能力や公開データセットを含む、非営利または公共のインフラストラクチャに投資または提供する必要があり、ユーザーは倫理原則と価値観を遵守する必要があります。アクセス権を交換します。
· Use laws, policies and regulations to ensure that LMMs and applications used in health care and medicine, irrespective of the risk or benefit associated with the AI technology, meet ethical obligations and human rights standards that affect, for example, a person’s dignity, autonomy or privacy.
· リソースが許す限り、ヘルスケアまたは医療での使用を目的とした LMM およびアプリケーションを評価および承認するために、既存または新規の規制当局を割り当てます。
· LMM が大規模に導入される場合、データ保護と人権を含む独立した第三者によるリリース後の監査と影響評価を必須に導入します。監査と影響評価は公開されるべきです
また、年齢、人種、障害など、ユーザーの種類ごとに分類された結果と影響を含める必要があります。
· LMMs are designed not only by scientists and engineers. Potential users and all direct and indirect stakeholders, including medical providers, scientific researchers, health care professionals and patients, should be engaged from the early stages of AI development in structured, inclusive, transparent design and given opportunities to raise ethical issues, voice concerns and provide input for the AI application under consideration.
LMM は、医療システムの能力を向上させ、患者の利益を促進するために、必要な精度と信頼性で明確に定義されたタスクを実行するように設計されています。開発者は、潜在的な副次的結果を予測して理解できる必要もあります。
***
情報源：
WHO 2024。健康のための人工知能の倫理とガバナンス: 大規模なマルチモーダル モデルに関するガイダンス。で入手可能 https://iris.who.int/bitstream/handle/10665/375579/9789240084759-eng.pdf?sequence=1&isAllowed=y
***
