第9回 保健医療分野AI開発加速コンソーシアム(議事録)

日時

令和元年11月20日 16:00~18:00

場所

合同庁舎5号館厚生労働省専用13会議室(21階)

議題

(1)今後の議論の進め方について
(2)重点6領域におけるロードブロックの把握について
(3)その他

議事

 
○事務局 定刻になりましたので、第9回保健医療分野AI開発加速コンソーシアムを開催させていただきます。皆様方におかれましては御多忙にかかわらず、御出席いただきまして誠にありがとうございます。
まず、事務局より構成員の変更及び本日の出欠について御報告いたします。Preferred Networks代表取締役社長の西川先生は御多忙のため構成員を辞退されました。日本製薬工業協会知的財産委員会運営委員の堀川先生に代わって、日本製薬工業協会研究開発委員会専門委員長の赤塚構成員が就任されました。本日は、末松構成員、辻井構成員、松尾構成員、宮田構成員、山本構成員、渡部構成員より欠席の御連絡を頂いております。また、豊田構成員は途中までの御出席予定と伺っています。本日欠席の構成員の代理出席として、末松構成員の代理として国立研究開発法人日本医療研究開発機構臨床研究・治験基盤部の井本部長に御出席いただいております。
オブザーバーとして、内閣官房情報通信技術(IT)総合戦略室、個人情報保護委員会、総務省、経済産業省、文部科学省、当省のデータヘルス改革推進本部から出席いただいています。その他の事務局及び関係部局からの出席者については座席表記載のとおりですので、個々の紹介は割愛させていただきます。
以降の議事進行は北野座長にお願いいたします。
○北野座長 まず、資料の確認を事務局からお願いします。
○事務局 本日はペーパーレスにて実施させていただいております。資料は議事次第、資料1から3、別添1から3、参考資料1から4及び過去8回分の資料をお手元のタブレットに格納しております。タブレットの操作方法については、タブレット操作方法説明書を御確認ください。御不明な点がありましたら職員がまいりますので、事務局まで御指示をお願いいたします。
○北野座長 議事に入ります。まず議事1の今後の議論の進め方に関して、資料1を使って事務局から説明をお願いします。
○事務局 資料1「「保健医療分野AI開発加速コンソーシアム」議論の進め方について(案)」に沿って御説明いたします。「1.これまでの議論」について、本コンソーシアムは、AI開発及び利活用促進に向けて幅広い視点から議論を行い、本邦にて取り組むべき事項を検討することを目的に、平成30年7月に設置されております。全8回の議論を踏まえて、本年6月28日に報告書が取りまとめられております。取りまとめられた報告書は参考資料3としてタブレットに格納しています。
この報告書において、画像診断支援領域におけるAI開発を例に、開発段階に応じたロードブロックについて議論し、ロードブロックに対して迅速に対応すべき事項を取りまとめ、画像診断以外の領域、重点6領域におけるゲノム医療、診断・治療支援、介護・認知症、医薬品開発、手術支援の5領域、それらのAI開発を加速するために必要な取組を記述しております。
また、重点6領域を中心にAIの活用が期待される領域の整理を行い、俯瞰図を作成していただきました。俯瞰図は参考資料3の23ページに掲載されています。今後の方向性としては、国内外の最新の情報を着実に把握しながら、政府全体の枠組みと連携し、各領域におけるロードブロックの把握、ロードブロックに対するアクションプランの作成を行う必要があるとされております。
また、政府としては、令和元年6月11日にAI戦略2019を取りまとめていて、健康・医療、介護分野の社会実装に向けての取組として、ロードブロック解消に向けた工程表、俯瞰図に基づくAI開発促進のための工程表の2点を本年度中に作成するとしております。
「2.今後の議論の進め方(案)です。上記を踏まえて本コンソーシアムにおいて、本年度中に2点の工程表を取りまとめるために議論を進めてはどうかと記載しております。
「3.WGの設置について(案)」です。報告書では、コンソーシアムの下に、例えばワーキンググループを設置するなど、継続的な情報収集と進捗状況の確認を行う体制を確立しつつ、本コンソーシアムにおいて引き続き検討を行うことが必要であるとされておりました。このため、工程表が取りまとめられた後のフォローアップについてはワーキングを設置して実施してはどうかと記載しております。
資料2でこれから御説明いたしますロードブロックの確認とも関連いたしますが、人材育成等の領域横断的な課題であって、対応すべき既存の枠組みが十分でない課題については、専門家や関係者からなるワーキングを設置し、議論してはどうかと記載しております。
「4.スケジュール(案)」です。今回11月20日第9回のワーキングにおいて、今後の進め方を確認し、この後、次の議事でロードブロック解消に向けた工程表の作成に向けて、ロードブロックの確認を頂ければと思います。第10回では、2つの工程表について、それぞれ事務局でたたき台の工程表(案)を用意し、それについての御議論、御意見を頂き、第11回に取りまとめというようなスケジュールの案を記述しております。
資料についての説明は以上です。
○北野座長 進め方の概要の案を事務局から説明していただきました。前回までの8回は、特に画像診断を1つの事例に捉えて、画像診断にAIの機能を盛り込むような開発をして、それを実際に臨床展開するに至るところで、どういう阻害要因があるかどうかを洗い出して、それに対して対応が必要なものは対応する、できないものはペンディングになるかもしれないけれども、それの分類とアクションプランを作りました。
そのときに分かったことは、今の制度の中でもできる部分は多いのだけれども、曖昧さがあったり、もう少しきちんと周知したほうが良いというものがありました。幾つかは若干宿題で残った部分はありますけれども、画像処理に関しては一通り議論はいたしました。
ところが、それ以外の分野ではロードブロックというところでの議論は終わっていませんでしたので、今回からは6領域全てをカバーする議論を目指すことになります。この全体の方針はどうでしょうか、これでよろしいでしょうか。それ以外に見落としている重要事項があるからそれも入れたほうが良いなど、何か御意見はありますか。
○羽鳥構成員 日本医師会の羽鳥です。基本的には北野先生の案でよろしいと思います。1回から8回で、特に画像については熱心に皆さんに討議していただきました。実臨床で、胃がんの内視鏡検診を神奈川県川崎市医師会、横浜市医師会では来年4月から実証事業を、NED0からの補助も得て、確実に実証研究が始まります。
AI内視鏡は、リアルタイムに0.02秒間にがん、がんでないということなのですけれども、今回、川崎で行うのは、医療機関でとられた一例100枚程度の画像をAIも意見を出す。しかし、最後診断は医師であります。本当の意味でのAIとは言えないかもしれませんけれども、ものすごい勢いで進んでいるので、他の5分野も相当のスピード感を持ってやってほしいと思います。
○北野座長 この分野はスピードがものすごく速いので、それをキャッチアップできるようにやっていきたいと思います。政府の委員会でやれることというのは、何でもやれるわけではないのです。基本的には現場と、それを開発する企業であるとか、現場での医師の力というものが重要になって、それをどうサポートしていくか。阻害しないということが非常に重要で、やる気のある人はたくさんいますから、少なくとも邪魔はしないということをきちんとする必要があると思いますので、そこを議論できればと思います。
あとは、曖昧なところとか、不安に感じられるところは明確なガイドラインを出して、そこをはっきりして、安心して進んでいただけるようにするというのが1つの役割かと思います。
もう1つは、この中にワーキンググループを作るという案があるのですが、これに関してはどうでしょうか。ここでの議論というのはもちろんあるのですけれども、時間も限られているし、皆様も忙しくて、内容によってはかなり詰めた議論をしないといけない部分があります。前回までの8回も、ワーキンググループはやらないで、この会議だけでやっていたので、詰まっていないことが結構あります。具体的な、テクニカルな話をきちんとしなければいけない部分が、実はこの前までの回でも詰まっていないのです。それを積み残しにしないような形でワーキンググループでもう少し詰めた議論をするチームを作りたいと思っているのですが、どうでしょうか。皆さんうなずかれているので、それで進めさせていただきます。
それでは、議事2の重点6領域におけるロードブロックの把握についてに移ります。大分厚い資料がありますが、資料2に基づいて事務局から説明をお願いします。
○事務局 資料2「重点6領域におけるロードブロックの把握について」です。2ページ「1.ロードブロックに関するこれまでの議論の状況」です。認識の共有のため、状況の整理の表を記載しております。ページの下のほうの青で塗り潰していいますが、画像診断支援においては、考慮すべき開発段階として、IRB、インフォームド・コンセントから、商用展開やアップデートに至るまでの8つの開発段階を確認し、それぞれについてロードブロックの把握を行っていただきました。その議論は、6月までに報告書が取りまとめられました。
今回は、黄色で塗り潰した部分が議論の対象になります。画像診断支援において指摘されたロードブロックは、他の領域でも共通するものが多いと考えられますが、その他各領域特有のロードブロックがないかどうかを御確認いただきたいと思います。その際、他の5領域における開発の段階について、画像診断支援の際に確認した開発段階と異なる点がないか、それを初めに確認できればと考えております。
3ページ「2の(1)他の5領域において考慮すべき開発段階の確認について」です。ロードブロックを考える枠組みとして、画像診断支援以外の5領域であるゲノム医療、診断・治療支援、医薬品開発、介護・認知症、手術支援についても、製品・サービスの例を想定し、上市・社会実装に必要な開発段階は何か、画像診断支援領域の開発と異なる点があるかを検討した結果、ページの下方の表のように確認できるのではないかと省内で検討し、意見を表にまとめております。
他の5領域においても、開発段階の多くは画像診断支援領域と共通すると考えられますが、例えば医薬品開発領域では想定される製品・サービスが、主に医薬品を開発するための人工知能、研究開発用機器であり、医療機器としての⑥臨床での検証、⑦PMDA審査等/薬事承認、これら2つの開発段階は該当しないと考えられるため、赤で塗り潰し、×を記載しております。また、介護・認知症領域においては、介護ロボットが1つの例として想定されますが、これが医療機器でない場合については、同じくPMDA審査等/薬事承認の開発段階は該当しないと考えられるため△、医療機器の場合は該当というマークを付けております。
ここではロードブロックの把握など、開発促進のために考慮すべき上市までの道筋、開発段階として、これまで議論してきた段階又は領域横断的な検討項目として挙げてきた項目に追加すべきことがあるか、後ほど御確認いただければと思います。
「2(2)6領域におけるロードブロックの把握について」です。6月の報告書においては画像診断支援を例にロードブロックを同定し、参考資料3の報告書、また3の別添1として取りまとめがなされております。他の5領域についても、前のページで確認した開発段階を踏まえ、ロードブロックとしてそれらに追加するものがあるかを検討したものが次ページ以降になります。
省内で検討した結果ですが、多くは共通する問題と考えられます。追加するロードブロックがあるか、後ほど御議論いただければと思います。
ページ右下に枠囲みで記載しておりますが、それぞれのロードブロックに対して法改正が必要な事項をA、運用ガイドラインの作成や制度の運用の変更が必要な事項をBというような分類ができればと思い、A、B、C、D、Eの記号付けをしております。
3ポツ目になりますが、①IRB、②インフォームド・コンセントについては、現在、医学研究等に係る倫理指針の見直しに関する合同会議において、医学研究推進のための運用手続の簡略化について検討中であり、見直しの結果を踏まえ、セントラルIRBの場合のデメリットや、インフォームド・コンセントのひな形等について更に確認が必要ではないかと考えております。
次のページから開発段階それぞれについて1段階1ページでまとめてあります。表の見方は、ロードブロックの列のうち「画像診断支援領域」の列に記載しております記述は、報告書本文及び別添1をある程度事務局で集約化してまとめさせていただいたものです。
その隣のその他5領域の列が、今回御確認いただきたいところです。画像診断支援領域におけるロードブロックに追加して検討が必要なロードブロックがあれば、ここに記述が追加されるというようなイメージを持っております。
右側の着手・対応済みの事項、未対応の事項については、ロードブロックに対応する取組として現在実施している取組、又はこれまでに対応済みの事項、今後対応が必要な事項等を記載しております。それぞれについて、特に対応が完了していない事項について、いつまでに何をするといったことについては、今後作成する工程表の中でお示ししたいと考えております。文字の色については、ロードブロックと対応する取組の色をそろえてあります。
①IRBについては6月までの議論において、IRBの審査の質は均一でないこと、IRBのセントラル化、医療機関において審査を担うAIの専門家が不足していることなどが課題として取り上げられました。省内で確認した範囲では、これらの課題に追加するロードブロックは見いだされず、画像診断支援領域と同じと記述しております。
これらの点については、現行の整理の中でも、必ずしも自施設のIRBで審査する必要はなく、既にIRBが他施設の研究を審査することは可能であること。必要であればAIに関する有識者の意見を求め、審査することが可能であり、構成員に必ずしなければならないわけではないということが確認されております。一方で審査の質の均一化に向けての検討、AIの専門家の人材育成については今後対応が必要と考えられます。
②インフォームド・コンセントについては適用される制度、例えば個人情報保護法や、倫理指針等への理解が進んでいないこと。個人情報保護法が適用除外となるケースについての境界が不明確といったことが課題として挙げられました。また、AIの精度や開発段階において説明内容も変わりますが、様々なモデルケースについて、インフォームド・コンセントのひな形を作成・共有してはどうかといった意見がありました。これらについても、その他5領域として特有の追加の意見はありませんでした。
これまでに、例えば、学術研究機関と企業が共同研究等を実施する場合でも、医学系指針の適用範囲となる場合もあることなどを整理し、それらについては今回の資料の16ページと17ページに当時の資料を転載しております。
また、紫色の文字のインフォームド・コンセントのひな形については、がんゲノム医療推進コンソーシアム運営会議において、がん遺伝子パネル検査に関する説明文書のモデル文書が作成されております。今回は別添1として用意しております。
別添1を御覧ください。ゲノム医療のうち、がんゲノムについては2018年12月に遺伝子パネル検査機器が薬事承認、本年6月には患者の同意を得て、データをがんゲノム情報管理センター(C-CAT)に提出することを要件として、保険適用が開始されております。C-CATにがんゲノム情報のデータを集積する仕組みの運用が開始されたわけですが、その際に患者の同意を得る際の説明文書のモデル文書として作成されたものが本資料になります。
データの取扱いについては、2ページの中ほどの7.がん遺伝子パネル検査に用いたデータ等の取扱いとして、C-CATにデータを提供すること、またC-CATに集積されたデータを学術研究や医薬品等の開発のために、学術研究機関・企業に提供することがあることについてなどの記載があります。
また参考として、別添2は人工知能関連のものではありませんが、ナショナルセンター・バイオバンク・ネットワークプロジェクトにおける、診療目的で採取された血液・組織などの研究用保管と、研究用採血により医学研究への御協力をお願いする場合の説明文書。別添3に、現在、医薬基盤・健康・栄養研究所で実施されている創薬ターゲット探索のための人工知能開発のプロジェクトにおける説明文書のモデル文書を用意しております。
資料2に戻りまして7ページです。③アノテーション/ラベリングについては、画像診断支援領域の議論において、アノテーションツールなどによる現場の負担軽減や、アノテーション及び基となるデータの質を含めた学習データの質の担保、知財権の考え方、用語基準の体系化、標準化が課題とされ、その他5領域でも同様と考えられました。現在AMEDで実施されている画像診断支援AIに関する研究において、記載のような課題について取り組んでいるところです。
8ページで④データ転送・標準化/匿名化についてです。安全に転送・共有するためのルール及びセキュリティの確保、データの共有化のため、電子カルテ等の標準化や基盤整備、匿名化の基準が課題とされ、その他5領域でも同様と考えられます。
医療情報を扱うに当たってのセキュリティの担保は3省3ガイドラインの中で必要な対策等が示されており、またデータ収集に必要な情報基盤については保健医療記録共有の推進など、厚生労働省におけるデータヘルス改革推進本部での取組や、他省庁でも検討が実施されているところです。
9ページ、⑥クラウドでの計算/データストレージについても、クラウド環境のセキュリティ、管理の透明性、技術要件などの検討が重要として、コンセンサスがないことなどが課題とされておりました。データ転送・標準化、匿名化と同様、既存の枠組み、他省庁との会議体でも検討が進められており、引き続き関係省庁間でも情報共有を図りながら対応していくことが望ましいと考えられます。
10ページ、⑥臨床での検証です。検証段階も含め、現場でのAIの使用に当たって、適正使用の留意事項、問題が発生した場合の責任の所在等について検討が必要ではないかと指摘されていました。その他5領域として、追加で記載しておりますのは、医療機器に関する制度についてとして、AIを用いた医療機器開発に対する制度の理解が進んでいないのではないかという意見を記載しております。現在、医療機器の品質、有効性及び安全性の確保については、薬機法にて対応しております。市販後の学習により性能が変化する医療機器の管理に関する制度については、現在審議中の改正薬機法等で言及がされております。医師法との関連についても整理がなされておりますが、AIの技術的進展を見ながら、今後も継続的な議論が必要な領域であるとの御意見を頂いております。
11ページ、⑦PMDA審査等/薬事承認について、AIの特性を配慮した薬事制度について課題とされております。先ほども申したとおり、改正薬機法案が現在審議中です。
12ページ、⑧商用展開、アップデートについて、公的研究期間が終了した後も、継続的にAI開発等に活用できるようなエコシステムの構築、アップデートに必要なデータの収集について、社会的な枠組み等が課題とされ、その他5領域でも同様と考えられました。現在、画像診断支援のAIに関する研究の中で、各学会はそれぞれの現状や環境に応じた持続可能なエコシステムを検討しております。
13ページ、⑨その他です。国民への普及啓発、人材育成、AI技術の評価、質の担保、情報基盤について課題とされております。これから年度内にロードブロック解消に向けた工程表の作成を進める予定ですが、解消が必要なロードブロックが何か、ここまで見てきた6月までの議論で挙げられた課題に追加すべき論点があるか御議論いただければと思います。また、それぞれのロードブロックへの対応を検討する上で留意すべき点、お気付きの点等がありましたら御意見を頂ければ幸いです。説明は以上です。
○北野座長 ありがとうございます。これは大分ボリュームがある資料なのですが、順を追って、今日はここの所の内容に関して議論していくというのが1つのメインのポイントになります。順を追って議論していきたいと思うのですが、幾つかのロードブロックの領域に関して、この整理で良いのか、追加修正があるか、そういうようなところを議論する必要がありまして、まず、3ページの2に「他の5領域において考慮すべき開発段階の確認について」というものがあります。画像診断系はこの前にやりましたが、それ以外の領域で、この整理で良いのかどうかということだと思います。ほとんどの所は追加で検討はなしとしています。あと、幾つかの領域、ゲノム医療、医薬品開発、介護・認知の領域で該当しない開発段階があるというのもあります。そういう差分も含めて、まず、確認という意味で、御意見があったらお伺いしたいのですが、このマトリックスの図の整理で大丈夫かどうか、少しこれは違うのではないのというのがあれば、御意見を頂ければと思うのですがどうでしょうか。
○赤塚構成員 医薬品開発の部分で×となっている所なのですが、現在の世の中での医薬品と医療機器、あるいは再生医療等製品というような枠組みを想定すると、医薬品開発の最初の段階でAIを活用するので、×でもいいのかもしれないのですが、近年、治療用のアプリですとか。
○北野座長 デジタル・セラピューティクスですね。
○赤塚構成員 はい、デバイスと薬を組み合わせるでありますとか、医工連携が急激に進んでいます。今回、そこまでをスコープに入れるとすれば、ここは×というよりは、やはり○か△ではないか。画像のロードブロックも読ませていただいたのですが、課題としては追加ではなくて、同じ内容で良いと思います。そういう所も念頭に入れて検討いただければなというように思っております。以上です。
○北野座長 事務局、そこのところは何かコメントはありますか。これは何か議論しましたか。
○事務局 この表を作成するに当たりまして、医薬品開発というところは、今までの意味での医薬品の開発と、そのための機器を規定し、記号を付けました。指摘のあったような医療機器とされるものについては、診断・治療支援のほうが適切でないかと考えて作成しました。
○北野座長 その上ですね。
○事務局 はい、そうですね。
○北野座長 それはどちらのカテゴリーですか。
○赤塚構成員 実は事前に説明いただいたときも、議論させていただきました。今の枠組みではデジタル・セラピューティクスは医療機器に入るというのは理解していますが、お医者さんの先生方が使う機器ではなく、患者が使うような機器になったときでも、医療機器のカテゴリなのか?と思います。それが11ページ目の、「AIの特性を配慮した薬事制度の整備が必要ではないか」という部分は、デジタルセラピューティクスも画像と同じだと思っています。法律の問題になるので、ここでの議論ではないのかもしれないのですが、そういう部分を少し懸念しております。患者が使うような機器が出てきたときを想定した場合の議論は、どのカテゴリで進めるのかが、まだ明確ではないと思っています。
○北野座長 なるほど、良い論点ですね。その件に関して、ほかの方で御意見はありますか。山内さんお願いします。
○山内構成員 今のと同じような意見ではあるのですが、この参考資料3の23ページのこの俯瞰図で非常によくできていたと思うのです。それを今回のこの資料の今のテーブルというか、領域も結局、診断・治療支援という大きな枠組みが、今言ったように重なる所があったりとか、診断・治療支援の中に、この参考資料3の23ページのこの俯瞰図では、画像診断・手術支援は入っていて、ここからの今の6領域に分ける分け方とかが、余りにもダブッているものがあったりとか、そういった中でマトリックスを作ってきているので、そこも重なる領域があるわけですよね。この縦軸のマトリックスの領域の部分に関しても、重なっていくものや、カテゴリーの分け方が、大カテゴリーなのか、小カテゴリーなのかがちょっとまちまちになってきていて、混乱するのかなというように思ったのです。
この参考資料3の23ページの医薬品開発領域におけるAI開発を見ていると、ここには臨床試験とかも入ってきているので、今のそのアプリとか、そういうのはもしかしたら、この上の診断・治療支援におけるAI開発に入ってくるかもしれないのですが、医薬品開発におけるAIの開発に関しては、最初話していたときに、確か臨床試験とか、そういったことも入ってきていたので、そうなると、このロードブロックの最後のほうも入ってくるかなということがあるので、その辺の分け方がちょっともう少し分かりやすく整理しないと、混乱してくるかなとは思いました。
○北野座長 確かにそうですね。ほかに何かありますか。事務局からお願いします。
○事務局 この開発段階については、ロードブロックを考える上で取り上げるべき段階が何かというところの整理のためなので、俯瞰図と見比べると、曖昧なところ、重複するところはありますが、重点6領域の分類で作成させていただいた補足させていただきます。また、俯瞰図では医薬品開発そのものの段階が書いてありまして、臨床試験のサポートに使うような人工知能の開発といったような文脈だったようにも思いますが、いろいろあり得るといったところは確かに御指摘のとおりだと考えております。
○北野座長 その場合には医薬品開発のカテゴリーなのか、デジタルセラピーというカテゴリーを新たに作るのか、確かに御指摘のとおりではあるので、それはほかの所でもカバーできるのだけれども、カテゴリーを明確にするという意味では、それはしても良いかもしれないですね。デジタルセラピーは、多くの人が研究をしていますから、多分、これからたくさん出てくると思います。ありがとうございます。ほかに何かありますか、今のとは違う話で、この表に関して、もう少し書いたほうが良いとか、そういうようなものは特にございませんか。
では、次にいきたいと思います。4メージ目2(2)「6領域におけるロードブロックの把握について」から順番にいきたいと思います。その後の5ページはIRBの話になります。ここの整理がAI-IRBで人が足りない場合セントラル化したりとか、外の専門家に委託したりとかということが書いてあって、現行制度では、まあまあできる、人材をどうするかというような問題があるものの、それなりの整理はされているという感じはしているのですが、ここに関して御意見を頂けませんでしょうか。
○保科構成員 ここなのですけど、画像診断支援と同じかどうかというお話で、いわゆる例えば介護・認知症の領域と手術支援領域は、基準の厳格さを取るのか、プロセスの容易さを取るのかで全然違うと思うのですよね。かつ、人材にも限りがあるというお話があるので、やはり領域ごとに緩急を付けないといけないのかなというように思いました。あと、AIという要素でいけば、いわゆる手法によってもリスクは違うのかなと思っていて、例えばシンプルな教師あり学習なのか、あるいは強化学習を全面に使ってのものなのかは、やはりリスクは違うと思うのです。なので、セントラルAI-IRBというお話もありましたが、今お話したような視点も踏まえて、何か全部を作り切るというのは難しいのですが、何か一定の指針を作っていかなければいけないのかなというように、ここを読みまして思いました。
○北野座長 今の文章ですが、介護などの場合に、緩急を付けるといったときに、具体的にどういう方向に振ったら良い感じですか。
○保科構成員 なので、全部を決め切るというのは難しいのですが、指針というところで、この領域、あとはAIの手法と組み合わせるとまたパターンは多くなってしまうのですが、ただ、そのときにやはりガイドラインというものがないと、それぞれ決めるのも難しいし、セントラルAI-IRBという話と密接に連携するのだと思うのですが、どこまでどういう所が審査するのかというところを、正に決めていかなければいけないのが、ここのロードブロックというか、これからの工程表に関わるところなのかなと。
○北野座長 どちらかというと、今のは要するにエリアごとに質の均質化というか、スタンダライゼーションするという感じだと、一番最初のアイテムの所になりますかね。
○保科構成員 そうですね。
○北野座長 これは施設ごとというか、施設ごと及びその対象・内容ごとにという感じですかね。
○保科構成員 そうですね、という意図で。
○北野座長 分かりました。今のは事務局の方でテイクノートしておいてください。これはワーキンググループとかで詰めていったほうが良いと思います。個別のことをきちんと議論しないといけないので、お願いします。ほかにこのページに関してございますでしょうか。お願いします。
○葛西プロジェクトチーム技術参与 これは厚生労働省のほうでそれぞれA、B、C、Dというように対応するアクションの案が書かれているのですが、改めて見ると、実はセントラルIRBとローカルIRBの関係でなかなかややこしくて、例えばセントラルIRBが作られたから全員右にならえというようには、多分、私の感覚ではまずならないと。それはなぜかというと、まず情報管理の考え方に関しても、異常に例えばクラウドを嫌うとか、異常にここはクラウドで、「えっ、もうそんな状態でクラウドに載せてしまうの」とか、もうレベルの差がとんでもなくあって、その文化的な統一感を、IRBという程度のものでそろえることは多分、ほぼ不可能だなと。もう1つ、ちょっと丁寧にやらなければいけないのが、よくありますが、情報セキュリティの問題とか、技術的にできるできないとか、そういった観点で気にしているのか、そもそもAIが嫌なのか、それともAIを研究段階では認めているのかという背景的なものをきちんと調査していく必要があるなと私は思っているのです。
そのローカルIRBで、皆さんはどんな差異があるのか、何が違うのかというのをあぶり出していないのに、突然厚生労働省が標準的にこれでやりなさいと指針を投げても、それはそれとしてと言われてしまうことが想像されてしまうので、是非、御検討いただきたい。ローカルIRBで今やっていることの違いをちゃんと調査研究してほしいと思います。それをあぶり出さないと、我々自身も正しく把握できないのに、何か標準的なものを示すのに、法律であればいいのですが、基本法か、基本法でも駄目なのですが、法律レベルで縛れるレベルまで議論できるのだったらいいのですが、そういう権限はないので、そうなると、きちんとローカルIRBでの差を選ぶ必要はあるなと。その際に、大学だけではないのです。例えば研究機関とか、例えばゲノムだけでも、ゲノムを取り扱う機関ごとに考え方が違ったりするので、そういった研究機関の特質性もきちんと含めて、精密な調査をしていただくことを私は期待します。
○北野座長 ありがとうございます。そこのところは多分AIだけではなくて、統計処理をきちんとやるときに、そのデータはどこに載せておくかということと全く同じで、データをどうハンドリングするかということに対することが、相当ばらばらになっています。確かに私自身も匿名化されたものである臨床データをトランスファーするというときに、対象の医療機関、大学等で全然ばらばらであるという経験もあります。それをではどうするかは、結構テクニカルな議論なので、それこそワーキンググループできちんと決めなければいけないのだけれども、何かそういう医療情報、又はAIの取扱い指針、ガイドラインのようなものでもあったほうが分かりやすいのは分かりやすいです。ただ、それをどのくらい細かく決めるか、それを細かく決めてしまうと、また技術が変わったときに改定が遅れ、すごい足かせになるという懸念もあって、そこをどうやってやるかのバランスの問題です。だからボトムを合わせないと危険な気はすごくするのですが、そこをどうするかというのはあります。確かに御指摘のとおりだと思います。ありがとうございます。ほかにありますか。ではお願いします。
○田辺構成員 今の話で、正に皆様がおっしゃるとおりと思いつつ、1つ、均質化というのがこの資料の中に冒頭に出てくるのですが、強権的に国がこうやりなさいというようにするというよりは、ある程度学術機関、研究機関の自由度、自由に研究していただくという姿勢もなければいけないのかと。そのさじ加減が非常に難しいなと思いつつ、今、座長がおっしゃったように、ボトムで、最低限ここはというところは決めなければいけませんよというのも非常に重要かと思われます。セントラルの位置付けというのが、例えば何か困ったときにはそこに相談すればいいのではないかという形の駆け込み寺のような所にするとか、何かここがトップになっていて、ここが全てですという形にするのではないようなスタイルとか、このセントラルの位置付けというのも、定義を何かどこかで丁寧に議論したほうがいいのかなというのを感じ取りました。
○北野座長 この委員会での前回までの議論で、セントラルIRBは自前でやれる所はどんどんやってください、自前でやれない所はセントラルIRBがあって、そこに持ち込めるようにするという議論だったと思います。セントラルIRBが大御所になっていて、そこに権威があるようなそういう話では全然なかったと思います。自前でやれる所は当然やっていただいて構わないわけで、自前でやれるのにセントラルIRBがあるから持ち込むということは、これは変な話になってしまうので、そういう議論では確かなかったと思います。ほかにございますでしょうか。はい、葛西さんお願いします。
○葛西プロジェクトチーム技術参与 すみません、全然関係ない、わざとちょっと議論を分けたのですが、実は前回のコンソーシアムの後に、いろいろ私自身が移植の予後予測のAIの開発研究で取り組んでいるものがあるのですが、意外と倫理的なものというのはAIについては余りそこまで、例えばいわゆる内視鏡でできるだけ実臨床で使うとかというものが、それは使っていくことを積極的に考えたほうがいいのかなと思っていたのですが、最近一番話題になったのが、UCLAの心臓移植の予後予測を実はAIを使って、全米の心臓移植ネットワークはAIに頼りつつ、心臓の移植の順番を決めて、これは論文に出ていますし、NHKですらニュースになっていますが、そういったことが実際に海外では行われているというのを大分知りまして、結構本当の倫理面、本当にAIで心臓移植順を決めてしまっていいのか。決めてしまっているわけです、海外の場合は決めている例があるのですが、というような、本当の倫理面の審査というのは、かなり医療とかITとかでない、本当の倫理的な部分での議論は必要で、そういったことに関しては、実は今は個人情報とか、情報の取扱いとかセキュリティとか、私はちょっとそっち寄りですが、そのことばかりが着目されていて、やはり医学倫理的な点でのAI開発を本当にやっていいのかというのは、結構そろそろ考えさせられる時代になっているなというのを最近感じているのです。
なので、シンギュラリティが起きるかどうかという話とは別なのですが、そういった本当の倫理的な審査というのは、医学倫理面できちんと制度化する必要があると私は思っていて、実は私個人としてはAIで移植の順を決めるというのは、相当ハテナと私は、もっと積極的派の方もいらっしゃるみたいですが、とは思うのですが、そういった議論ができる場がセントラルIRBなどでちゃんとあったほうが、本当にエシカルな、高度なレベルでの議論ができる場があったほうがいいのではないかと提言としてはしておきたいと思います。
○北野座長 非常に重要なポイントで、AI倫理の世界だと、国際的に非常に重要になっているのはFAT、フェア・アカウンタブル・トランスペアレントというのがあるわけです。フェアというのは要するに公平で、特定のグループに不利な分類だとか意思決定とかなされないような、きちんとしたデータセットで学習をするべきだとか、アカウンタブルはそれに対してなぜそうなったかということがきちんと説明できるような部分であるとか、トランスペアレントといったら、どうしてそういうことになるか、透明性を確保するという、そういうことがあるわけです。
実際にメディカルの領域ではないのですが、カリフォルニアで犯罪者の保釈決定をするのに機械学習を使うという法律が、州法で出たのです。ところが、そのアルゴリズムとデータセットがどういうものを使うかが全然規定されていないので、それによっては非常に不利益を被るグループ、特に特定のエスニックグループに対して出る可能性があるというので、これはもう大反対運動が起きたのです。だから、そういう人間の人生を左右するようなところが、AIがうまく使われた場合には良いのだけれども、うまく使われるかどうかはデータセット次第だし、それの使い方次第なのです。それがトランスペアレントではない状態で起きるというのは非常にまずいという議論があります。
今の心臓の話というのも、純粋に医学的にやったときに、プライオリティ付けのデータセットであるとか、何か最終的な機能、何に最適化するかということを決めて学習させるわけです。その何に最適化するかということが妥当な倫理性を持っているターゲットになっているのかどうかということによって、アウトカムが変わってきますから、確かにそのようなイシューはあると思います。今までの議論というのは、プライバシーのところであるとか、診断に対するリスクのところを見ていたのだけれども、AI倫理のような視点での議論というのはこの委員会では確かしていないです。それはちょうどそういうタイプのAIシステムといったときにはその議論は必要かもしれません。ほかに今のことに関しても良いですし、ほかのことでも良いのですが、何か議論はありますか。もしなければ次にいきますけど、良いですか。では事務局で今の問題提起は、テイクノートしておいてください。
では次にいきます。個人情報のところです。インフォームド・コンセントのところです。ここが割と難しいところです。この前回までの議論で1回整理をしましたが、これに関して御意見を頂けますでしょうか。これに関しては、コメントを考えている間に、間野先生のほうで、がん遺伝子パネル検査をする同意文案の話をお願いいたします。前回作成中ということでしたが、今回資料を頂きまして、本当に貴重なものだと思いますが、間野先生のほうからコメントを頂ければと思います。
○間野構成員 今年の6月1日から日本中で、皆保険の下でがんゲノム医療がスタートしました。実際にはがん遺伝子パネル検査という検査法が保険でカバーされるようになりました。患者さんがその検査を受けるときの説明同意文書のモデル文書を我々が作って、それを各病院にお配りしました。
このモデル文書の中で赤字で示す箇所はそれぞれの病院、あるいはその病院が使う検査キットに応じて、それぞれ自由に変えてもらってもいい箇所です。是非とも変えないでほしいというところは青字で書いてあります。ですから、赤字のところは各病院、あるいは各病院が使用しようとする遺伝子パネル検査に応じて自由に変えていただいてよいですと。日本全体の仕組みとして、青色のところは必ずこの文言で盛り込んでいただきたいと書いています。
その文言の内容として重要なのは、2ページの7.のところに①と②と両方あります。①は、今回の皆保険で行うがん遺伝子パネル検査は、患者さんが同意した下で、その情報をがんゲノム情報管理センター(C-CAT)に集めますので、その同意を患者さんに尋ねるという文言は必ず入れてもらいたいということ。②は、C-CATで集めたデータは、あくまで利活用を前提としていて、しかもその中には海外の企業も含むと我々は考えています。海外の企業も含めた利活用を必ずそこで患者さんに問うてくださいと。1も2も患者さんは同意することも拒否することもできるという形になっています。
それがこの同意文書2の骨子です。その後は、実際の患者さんが同意するところの文書とか、後で意思を変更する文書が付いています。このような形式になっています。
○北野座長 これを拝見させていただいて安心したというか、機械学習をしたときに重要だと思ったのは、7.の②の一番最後の文章で、「提供の意思を撤回される場合、それ以後の利用は停止しますが、既に利用されているデータは削除できません」ということが極めて重要です。撤回されたからといって、撤回されたデータを含んだデータで機械学習しているものをやめろと言われると、全部学習し直しで、それはコンスタントに撤回する人が出た場合には全く何もできなくなります。学習されていますから、個人情報を直接使っているわけではありません。そこから後で、撤回したデータは学習用データから外しますけれども、そこで機械学習された学習付きモジュールは継続して使用する。それを撤回する必要はないという解釈でよろしいですか。
○間野構成員 はい、そうです。
○北野座長 ○北野座長 ここはすごく重要で、これがあれば進めるという感じがします。そうでないと怖くて進めないです。
○山内構成員 2点確認させていただきます。北野座長が指摘されたことで、この同意書の3ページのところで、「同意しない」と書いた場合にはどうなるのですか。青のところの項目7.の②に「同意しない」に丸をしていたら、もともとがんゲノム情報管理センターにはデータを提供しないということになりますか。
○間野構成員 いいえ、がんゲノム情報管理センターにデータを提供することの同意と、そこで提供したデータを第三者に利活用することの同意とは別々に取っています。後半は同意しないけれども、前は同意する、つまりデータを送ってもいいけれども、C-CATに利活用させないということに同意したデータは何に使うかというと、1つは国のがん患者さんの基盤ゲノム情報になります。さらに、C-CATにデータを送ると、患者さんごとの変異情報に合わせた、C-CAT調査結果という、ある種のレポートが病院のエキスパートパネルに返って、その病院の治療方針の決定の上で役立ちます。それは、すごく有効な情報が入っていますので、それには使われます。ただ、それ以降企業の利活用はできないということになります。
○山内構成員 3ページのところで、「同意しない」と書いた場合は、私はこの項目というのはそれを認めてもらうという意味だと思ったのです。もし、既に利用を停止します、それに既に利用されているデータは削除できません、というのに同意しないということになってしまったらどうなるのでしょうか。
○間野構成員 データはC-CATに送られてきて、調査結果等は作られますけれども、企業やアカデミアへの利活用は行えません、行わないデータになります。
○北野座長 基本的な医療データの中には入るけれども、機械学習に使うとか、統計解析の研究に使うとか、そこには行かないということだと思います。
○山内構成員 分かりました。2点目は、要するにオプトインになるわけですよね。資料2で今ディスカッションしているページのインフォームド・コンセントのところが、6ページのグリーンのところには、企業で利活用したりそのようになってくる場合はオプトアウトのほうが良いのではないか。「研究目的とか、企業目的の線が引けない」ということを書いてあります。着手・対応済みの事項のところで、「オプトアウトの手続で医療情報は活用できる場合があることを整理」と書いてあります。その次の未対応の事項のところで、「現行制度の効果的な周知方法の検討」と書いてあります。ちょっとこれが混乱して、要するにオプトアウトでもいいから、オプトアウトでも大丈夫だということを周知するという流れを意味しているのでしょうか。
○北野座長 ここは結構微妙なので慎重にやる必要があります。前の議論では、学術研究でパブリックにフィードバックされるのだったらオプトアウトでもいいという議論が1つありました。そのときに、企業の製品の上に乗ったときに、それがオプトアウトでいいかどうかというところが1つの解釈になります。そのときに、前回は企業の製品の上に乗るか何かしないと、ここは見付からないから、乗ったとしてもそこの部分がアカデミアにフィードバックされるとか、パブリックにフィードバックされる部分であるならば、オプトアウトという可能性はあり得るのではないかという整理をしました。全部をオプトインにするのではなくて。
ただ、それが本当に大丈夫かどうかという個人情報のほうがOKになるのか、それをどのぐらい明文化するか。そのフィードバックの仕方のときに、どういうフィードバックをすればそれはパブリックだとみなすのかどうかというのは決まっていないです。そこは概念的にそうなのだけれども、例えばどういうコントラクトで、どういうアクティビティがあれば本当にそうなのか。
間野先生のこれは、オプトインですから、こっちはすごく明確で、これをやるのが一番安全ではあります。これは非常に明確なので、オプトアウトでやるのはこれがない場合に、オプトアウトでやったときにどこまでバウンダリーをプッシュできるかという話をしているのです。そこの最後は決着がつかなくて前回のものは残っています。そういうことなので、間野先生のこれが非常に重要だったのは、前回も間野先生のこれにすごく期待があったので今回出していただきましたので、私はこれだと思っています。
一番シュアなのは、間野先生のフォームを使うのがシュアです。これはオプトインですから。そういうことは思いますけれども、この辺りの整理は事務局のほうのステータスとしてはどうなっていますか。
○事務局 北野先生からおっしゃっていただいたとおりで、資料2の16ページと17ページに、前回コンソーシアムのときの資料を転載しております。16ページの現行の制度内で、医療情報を民間企業で活用する方法にCのオプトアウトがありますが、あくまで一手段であり、これをを推奨するというものではありません。どういうケースがあるのかというところで、オプトインで個人情報保護法が適用されるケース、またその適用除外となるようなケース、次世代医療基盤法が適用されるケースなどの方法があるといった整理を頂きました。
17ページでは、オプトアウトの手続で企業に対して情報をどのように利活用するかというところについて、使用される目的、またその研究内容について学術研究に当たるのか、製品開発に当たるのか、つまり、オプトアウトで出すことが可能なのか、それともできないのかといった一定の整理をさせていただいたところですけれども、御指摘のとおり不明確なところがあります。例えば、共同研究の学会と開発企業のところで、ちょうど真ん中で学術研究と製品開発の主たる目的のところも分かれておりますけれども、やはり場合によりけりということで明確な整理はできていなかったという状態であるのは確かです。
6ページの現行制度の効果的な周知方策の検討のところについては、現場において適用される制度への理解が進んでいないという点に対する対応策です。オプトアウト、オプトインに特化した周知方策の検討ということを意図して書いたものではありません。補足させていただきます。
○山内構成員 具体的に考えると、オプトアウトだったら非常に楽なわけです。今ある、うちの病院の例えば乳房のMRIを、診断を開発するAIの会社と共同開発をするときに、オプトインでなければいけないと言ったら、その患者さん全部に戻って、インフォームド・コンセントを取らなければいけない。だけれどもオプトアウトでいいのだったら、それをバンとすぐに出せる。だから、それによって教師データが得られるかどうかの非常なビッグバリアになっている。先ほど葛西参与のほうから、IRBのことで現行を個々がどう考えているのかは、集めてから何かをしてという御意見もありました。
海外で心臓移植の順番とか、受刑者をどうするかとか、本当にAIの活用は世界中で非常に行われていて、そのバリアが日本にかなりありすぎると思うのです。非常に慎重になることは必要かもしれないのですけれども、世界ではどんどん進んでいて、ある程度国がそういう指針を出してくれないと、現場でも今は怖がりながら私たちはやっている状況なのです。どこまでデータを出していいのか、これは開発を求められているけれどもどうすればいいのかというのを、本当に怖がってやっています。
今は、そういう臨床のデータもクラウドに載せるかどうかということも、それぞれの好き嫌いもあるとは思うのですけれども、好き嫌い以上に現場では、どこまでやって大丈夫なのかと。そういうところはある程度国が方針を出してくれたら、変な表現かもしれないけれども、赤信号みんなで渡れば怖くないではないですけれども、ちょっと違うかもしれませんね。赤は駄目なのですけれども、要するにみんなで大丈夫だということで保証があればワッと行けるのですけれども、というところがあります。
オプトイン、オプトアウトに関しても、ゲノムのことはゲノムの、C-CATという入口があるので、それは今からプロスペクティブにやることは幾らでもできます。プロスペクティブにはできますけれども、レトロスペクティブなデータが死んでしまうということを考えた上でやっていっていただきたいと思います。
○北野座長 結構イシューは明確で、これからオプトインでやるというのは、間野先生のゲノム文書が1つのスタンダードだと思います。このゲノムの文書が1つのテンプレートになって、これから進めると思うのです。そのレトロスペクティブにやるところというのは、やはり前回の整理をもう少し突き詰める必要があって、それをクリアするためには2つのことが重要になります。1つは、個人情報保護委員会から、この整理で良いかということのオーソライズを頂く必要があるのではないかと思います。
もう1つは、そのときにそれに対して何か条件が付加されるのか。あり得るのは前回の条件だろうと思うのですが、要するにアカデミアというか、健康の増進に広くフィードバックされるような、アカデミックにフィードバックされるであるとか、そういうものが1つの条件だったと思うのです。その場合にはどういう形態の契約なり、実効的なことが行われた場合には、それがオプトアウトでOKだという形になるのか。
この前の整理でも、この2つなのです。これをクリアにすればオプトアウトというオプションは出てくると思うのです。その2つですねというので、具体的にやる必要がありますよねというのでこの前の委員会は終わっています。ここのラインを押していくのだとすると、そこのところはもう少し詰めていく必要があると思います。
○大坪審議官 厚生労働省大臣官房審議官の大坪です。前回の会議には出ておりませんでした。前職と言いますか、ただいまも内閣官房健康・医療戦略室を併任しております観点から、本日は内閣官房からの出席者人がいないので私から補足をさせていただきます。事務局が申し上げた6ページに、正に山内先生がおっしゃったように、右側の着手済みの3つ目のポツに「次世代医療基盤法の活用」とさくっと1行書いてあって大して説明がありません。
そこで16ページをご覧いただくと個人情報保護法制の下で、AとBとCはできるようになっているのが現状です。Aについては個人データは基本的にオプトインでの情報提供、研究で個人情報保護法第4章適応除外研究除外の場合にはCとしてオプトアウトでの提供でいいですと。ただ、いま現在の個人情報保護法制の中でも、匿名加工の処理が医療機関自身でできるのであれば、同意を取らずに、学術機関から直でいろいろな所に情報提供するということを、実際にやっている所はあるのだろうと思います。
正に山内先生がおっしゃったように、そのような処理は面倒ですし、どこまでが匿名加工かの担保はできません。オプトインのケースなのか、オプトアウトのケースなのか判断がつかない。産業界に使えないではないかといったような声を頂いて、内閣官房のほうでは、平成29年に法律を提出しております。それがDの次世代医療基盤法になります。これは、アカデミアの先生方が自分で全部匿名加工していただくなどという面倒なことをしないで、国が認定した匿名加工を行う事業者、ここに生データのまま出してくださいと。そこが一括で匿名加工いたしますので、レトロスペクティブな情報についてはこれでできるのではないかと思っています。
ただ、一部のゲノムとか、個人識別符号に当たるものについては匿名加工されてしまう場合がありますので、オプトインのほうが確実だろうと思いますが、そのデータによっては個人識別符号に当たらないものに関しては、匿名加工事業者に生データを出していただくことで処理できます。このように、オプトアウトで情報提供できるという法律を作りましたので、活用していただければと思います。
一方で17ページで、ここまでは学術研究機関における学術研究目的の研究として個人情報保護法第4章適用除外ですという判断は、どこまでいっても個別事案のような気がいたします。個人情報保護委員会の人がいらっしゃいますので補足していただければと思います。個人情報保護委員会のほうから、こういうものは研究ですと一律に示すのはなかなか難しいのではないかと思っています。その体系によってもなかなか違います。相談には応じるのだろうと思いますけれども、一律の基準というのは個別条件が違うものですから難しいのではないかと思います。個情委のほうから追加があればお願いします。
○北野座長 個人情報保護委員会は大丈夫ですか。
○個人情報保護委員会事務局寺本参事官補佐 (大坪審議官の)ご発言のとおりかと思います。
○北野座長 はい、分かりました。今のレトロスペクティブなものに関してオプトアウトするのは、次世代医療基盤法を原則使うのが一番早い。個別にやるのだと、個人情報保護委員会とか個別案件でどうしましょうという相談をしてくださいという話なのですか。
○大坪審議官 1つだけ補足させていただきます。次世代医療基盤法は、今回のNDBとも同じように、他のデータと照合はできません。個人が割り出される可能性があるので、他の情報と突合できないところがあります。そういう意味では、正に先生がおっしゃったのは、レトロスペクティブで今あるデータを一括で処理するということには馴染みます。これから最新のデータが出てきたものについて、過去のデータと、1回次世代医療基盤法でもらった情報と突合しますというと、個人識別に当たることがあるので、そこはちょっと抵抗があります。正に先生がおっしゃった、レトロスペクティブのデータに関しては馴染むと思います。
○北野座長 例えば、レトロのものは全部一括になるからひも付いているのです。その患者さんに対して新しく測定したものを、例えば毎月そこに持っていけば全部突合された形で取れるのですか。
○大坪審議官 毎月毎月1からやり直した形になるということです。過去にもらったデータとひも付けができないということです。
○北野座長 そこの制約はあるけれどもという話ですね。これに関して他にありますか。大丈夫ですか。それでは次に行きます。次はアノテーションです。アノテーションに関してコメントはありますか。ここは多分制度的な問題というよりも、それではどうやってこれを臨床の所なり、研究でも持続的にアノテーションをクオリティの高いものをやり続けるか、どうやっていくかというところが非常に大きな課題だと思うのですけれども、これに関して何かありますか。
○保科構成員 アノテーションそのものというより、もうちょっと幅広く気になったところがあります。それは、AIが学習するデータセットというところです。IRBのところで、正に座長からお話が出ましたけれども、AIのふるまいというのは学習データ次第で、そこにデータバイアスがあったらみたいなところはちょっと心配されるところです。AIのアルゴリズム・ソフトウェアの管理というのは、この後で医療機器の認証とかそういうところに出てくると思うのです。
いわゆるソフトウェアという面だけではなくて、学習したデータの管理というのはどうしていくのだろうというところがちょっと気になっています。どういう断面のデータで学習させたのかというのが重要だし、どういうデータセットで学習したのか、それを追えるようにすることが重要だろうと思う一方で、ただ、それはどこまで本当に現実的にできるのか。それがAI導入に対して無駄なブレーキになってしまってもいけないしというところが、ロードブロックという意味では1つ大きなポイントかと思います。
○北野座長 そこのところは確かにありますね。それは規則で縛るというよりも、そこのところは技術開発するのでしょうね。規則だとうまくいかないような気がします。逆にそういうのは、そういう研究プログラムを立てるかどうかとか、そこでどうやって加速していくかという話になるのではないか。ここのデータのクオリティとか、アノテーションとか、固有のエリアというのは非常にホットな研究分野でもあって、そこの研究を加速するという施策は十分有効なものではないかと思います。他に何かありますか。
○葛西プロジェクトチーム技術参与 一番最初の頃に議論があった、AMEDの画像データを集めているという話がありました。6兄弟の話です。これはAMEDのほうが詳しいのだと思うのです。そのときに、どうしても学習データの話なのか、教師データの話なのかといつも混乱しています。開発者にとっては、エムニストみたいに最初からオープンにある画像データを当然先に使って学習させてから、実際の教師データとなるものを入れていくわけです。
そういうときに、教師データになり得るデータというのを、この間も別の所で意見交換をしたときに、国で1個にするものを作って、質を確保して、国で1個で作ったものを民間企業全部が使うと、その国の生産性というか、AIの質はそこで高止まりしてしまうわけです。これでは余り意味がない。
一方、国のAIの開発プロジェクトを見ている限り、やはり出口戦略としてどうするのか。この辺りは是非AMEDのほうで御存じの方がいれば、その後どうなったのかを知りたいと思っています。実際にその出口戦略としてデータを集める、国で集める、若しくは繋げるとか何とか言うのですけれども、その結果実臨床に使えるレベルまでAI開発を加速化するプラットフォームの在り方というのは、もうちょっと分散してあるべきはずなのです。全部集中的にある必要はないはずなのです。その辺りの事業形態と、最終的に研究でやった結果、なかなか社会実装まで行かないそのロードブロックみたいな、これはAMEDではもっと苦労されていると思うのですが、その辺りはちゃんとあぶり出さないと、アノテーションを付けて早くAI開発をするのは民間のほうがあっという間に進んでいます。予防医療などというのは、生命保険会社はAIで全部分析して、あなたの健診情報ではどこが悪いですと言ってくれて、それで保険料が変わる時代です。
実際の社会実装での効果、民間でのスピード感と、国がやるべきプラットフォームの在り方というのは慎重に議論しながら、私自身はかなり推進しているのですけれども、丁寧にやらないと何でもかんでも1つ何か開発研究事業として立てればいいのではないかというのはちょっと違うだろうという、実事業モデルとのフィットギャップをちゃんとやったほうがいいのではないか。これは、ここではなくてワーキンググループのほうでですけれども、そのように思います。
○北野座長 いかがでしょうか。
○井本代理(末松構成員代理) AMEDの井本です。おっしゃるとおりでした。実際にその事業をお預かりしているときの最大の悩みは、そのサステナビリティというか、アノテーションには専門家の血と汗と涙の結晶ということで、かなりのワークロードを割いていただいています。
結局その先生方のインセンティブは何かというと、その成果産物である研究で論文化することをもって、自分の業績化できるところをもって、一応本人としての収支が合っている。また、研究費についてのグランティングをされることをもって、全体が回るという構造を取っています。御指摘のように、それに公費を入れるのをやめた瞬間に、全体的にエコシステムが回るかというと、まず研究費自体が途絶するとその調達が賄えない。
本人たちは、自分の手弁当だけでいけるかというとその障害もある。その成果がそこだけで閉じられるかというのが、ある程度の大きさでお金が循環するような形にまで育て上げないと、恐らくおっしゃったようなことはできないということを考えています。何らかのビジネスモデルで継続できるようなものを、各学会において検討していただくことをお願いしているところです。もちろん、おっしゃるようにもっと大きな形で回すこともできるかもしれませんし、小さく回すこともできるかもしれません。いずれにしても、それなりの大きさに最初のスターティングアップのお金を入れて、メンテナンスのためのビジネスモデルを作ってあげないと、ずうっとサステーナブルはできないだろうと思っています。そこについては、正に学会のほうでの事情も踏まえて御検討いただいているところです。
○北野座長 質問させていただきます。画像だと、内視鏡だとか、レントゲンの読影みたいなところとか、スタートアップで自前でどんどん進んでいっている所があるのではないですか。スタートアップでも、既存の大手の会社でもそういうのはやっているのですが、そういうAI診断の画像診断を商品化を目指してやっている所と、AMEDのプロジェクトとの関係はどういう形になっているのですか。連携を取っているのか、それとも全く別で動いている話になっているのか、どうなっているのですか。
○井本代理(末松構成員代理) 私どもの所では、全ての現場を掌握しているわけではないので推測で申し上げます。実はAI関係の研究をされている先生方はそんなに多くはいない中で、個人でやられている所もあると思います。つまり自施設で、自分の手の届く範囲内で自己生産をして、その成果産物を直接成果に結び付ける。あるいは、直接ライセンスアウトするような形での共同研究を取る形態を取っていることが基本的に多いのではないかと思います。
今回のAMEDでの事業は学会でということなので、公益性をかなり重視して、もうちょっと大きな枠組みでシェアをして、もうちょっと大きな人を呼び込んで、大きな力を結集しようではないかというデザイン設計はしています。それでも限度があるので、法律で強制しているわけでもありませんし、参与が示した公益の学会で集まっていただいた方々、それから工学部の方々も結集して、医工連携を掛けた形でのセンサス研究を仕掛け上げたというところまでです。
それでも限界がありますので、資金とともに、終わるときにどうやって恒常性を維持する形で卒業するかが今は喫緊の課題です。繰り返しですけれども、個人でやっているものは別途ある。それは当然ながら知財権の問題もあるでしょうし、そこをこの研究のほうに全部上げますということにもなりません。それはそれで別にやられている上で、今回の公益性のあるものについては、皆さんの公益性の範囲内でやってくださいという、こういう二本立てになろうかと思います。
○北野座長 この点について他にコメントはありますか。その辺はどうするかというのは、ワーキンググループだけではなくて、AMEDのプロジェクトにも関わるので、そういうところも含めた議論が必要になります。若しくはAMEDと学会のほうで方針を出していただかないといけない話なのかもしれません。ここのワーキンググループで決めたから何とかなる話でもないのですよね。
○井本代理(末松構成員代理) そちらについては、決めたらできるというものでもないのかなと。多分各学会の事情であるとか、取り扱う画像の種類、あるいは集め方というようなことだと、その還元の仕方等の関係もそれぞれ違います。そういう状況の中で、統一的なことはできないので、それぞれお考えいただいている状況ではあります。
○山内構成員 前のときに、AMEDの成果をお示しいただいて、現在進行中だと思うのです。先ほど羽鳥構成員からお話があったように、川崎市医師会では既に実装が始まっているということでした。それは先ほどおっしゃっていただいたように、民間とのデータ提供を行って、民間で川崎市医師会と一緒に開発したAIを用いてやっているということになりますか。
○羽鳥構成員 そうです。でも、聖マリアンナ大、日本医大、がん研有明病院の膨大な実臨床データを用いています。AMEDではなくNEDOの予算を得て、川崎市のがん検診内視鏡検診に実証研究としています。それで横浜も検診を支えていますす。
○北野座長 学会のAMEDのものはあるのだけれども、それとは関係なくどんどんデータを集めて、どんどん実用展開しているものがたくさん出てきているということですか。
○羽鳥構成員 特に民間で始めて、眼底の読影についても始まるときいています。も
○北野座長 分かりました、現状はそうだということです。そうすると、AMEDのプロジェクトの目的というか、もちろんそれは重要な役割はあると思うのだけれども、それとは関係なくどんどん進んでしまっているときに、どうやって状況を整理するかというのは重要なポイントだろうと思います。AMEDのプロジェクトを評価することがここの役割ではないので、これ以上は入りません。次に行きます。
次は、データ転送・標準化/匿名化のところに移ります。ここに関して御意見はありますか。かなりテクニカルなことが書かれています。基本的なのは技術論なので、制度的にはほぼ現状でOKという感じで良いですか。葛西さんからコメントはありますか。
○葛西プロジェクトチーム技術参与 これを説明的にお伝えすると、データ共有の電カルの標準化のところであるとか、あとは疫学研究用に今お話に出てきているようなNDBであるとか、そういうものの連結解析というのは、参考資料4のデータヘルス改革の進め方のところにあります。ここで、またちょっと違う所で検討を、厚生労働省のほうでされております。参考資料4の17ページです。全国の医療・介護のレセプト等のデータベースを連結解析できる、それはDPCもなのですけれども、こういう連結解析というのは、正にAIではかなり重要なポイントになっています。私も関与しているのですけれども、これはもう1つ必ず出てくるのが、横にMID-NETというのがあって、更にその向こう側に一番質が良い医療データで、羽鳥先生からもありましたけれども私も同じで、病院が持っているレジストリを使って開発するのが一番多いです。それなので、NDBのデータから突然AIを開発することはほぼないです。
ややこしいのは、星の数ほどいろいろデータというのは存在していて、それを何らかの整合性を取って連結解析をするという仕組みの取組は厚生労働省のほうでやられております。そういう所で吸収されていくといいのだろうと思います。各局でちゃんと意見が通るような形でうまくデータヘルスのサービスを活用していったほうがいいのではないかというだけです。
ただ、一方で電子カルテの標準化はそんなに簡単ではなくて、データを連結解析したり、学習のデータを整備することはできるのですけれども、これを余り言うと、前々前回ぐらいから電子カルテの在り方のことは各先生方からいろいろな議論が出ていて、私も同じ思いがあります。これは、単純にSS-MIXだからそれで標準化できますというと、デジタル的には全然なっていないです。この変換技術を使うかとか、これから必ず議論が必要になるだろうと。あくまでも現状解説にすぎなくて、解答があるわけではないのですけれどもそう思います。
○北野座長 他にありますか。
○保科構成員 データの標準化という意味では、画像診断支援領域と一緒かどうかということで、構造化データ、非構造化データというお話もありますし、ゲノム医療のところに関しては次世代に遺伝するところというか、世代を超えたデータ連携は必要になってくるというところが1つポイントです。その家族のひも付けもそうですし、あとは世代を広くと言うとちょっと先の話になってしまうかもしれませんけれども、長年にわたってデータを蓄積していくことを考えると、過去のデータと互換性を持たせながら、更に情報を増やしていくみたいなところの仕組みは1つここのポイントになるのかと感じています。
○北野座長 その辺がイシューだと思うので、そういうことも含めてワーキンググループでの議論だと思いますので次に行きます。
次は、⑤クラウドでの計算/データストレージです。この辺も多分テクニカルなイシューと、あとはガイドラインの周知みたいなところがあると思いますけれども、ここに関して御意見はありますか。これは、ガイドラインがあるので、それにコンプライすれば一応OKではあります。あとは各医療機関がそれで良いと思うか、うちはそうではないとするかという話なのです。それは強制することもできないというか、各々の判断です。それで大丈夫ですか。大丈夫ならば次に行きます。
⑥臨床での検証になります。ここに関して御意見を頂けますか。ここは、最終的には医療行為ですから、お医者さんのほうが最終的に判断するということで、責任所在の整理というのはついていると理解しているのですけれども、それで良いですか。
○事務局 御指摘のとおり、医政局通知を発出していただいておりますように、医師が最終的な判断・責任を負うことについて示しております。
○山内構成員 ここに関しては前のときにも意見を言わせていただきました。やはり現場で使う医師としては、今後のAIがどの程度どこまでなるかということの「開発状況を踏まえ引き続き検討する」というように書いていただいています。それは引き続き、現場の医師が本当に責任を負えない部分も出てくる可能性もありますし、責任を負えないからAI機器を使わないということになったら、患者さんにとって不利益になるし、開発も進まないので、そこはその状況を踏まえた上で引き続き検討というのを考えていただけたらと思います。
○北野座長 使い方がいろいろ変わってきたときに、イシューになってくるのでしょうね。今だと画像診断をして、それを医師が見て、これは妥当かどうかという判断をするという、非常にストレートな使い方をしています。しかし、そうではない使い方が今後どんどん出てきたときに、その医師の判断がAIの結果をかなり重視しないと判断できないようになったときに、最終判断は医師とは言うものの、そのベースになるものがAIになったときに、そのクオリティはどうなるかという議論が出てくる可能性は当然あります。これは、引き続き忘れないように検討ということだと思います。他になければ次へ行きます。
次は、⑦PMDA審査等/薬事承認です。これはグレードAですが、これに関してコメントを頂けますか。コメントなのだけれども、これはPMDAの方針としていろいろなことを検討中だから、ここではコメントも何もないのでしょうか。これは、どんな感じですか。PMDAのほうでかなりアクティブに検討されていますよね。
○森審議官 PMDAが現場的な検討をしてくれて、業界とも勉強会を開いてやっているということ。そうした勉強をした上で、先進的なデバイス、AIのそれに合った規制の枠組みというのを、今回の薬機法の改正案の中にそれを盛り込んだ格好にはしております。現在国会で審議中ですので、これが成立して、初めてその展開が開けるというようなところに今はいるということで、やきもきしている状態です。
○北野座長 分かりました。これに関してコメントはありますか。今審議中ということで、それがうまく通るということを願うということだと思います。事務局は大丈夫ですか、何かありますか。大丈夫ならば次に行きます。
⑧商用展開/アップデートに関してですが、これに関してコメントを頂けますか。これは、恒常的にデータをどう取るとか、アップデートされたときにこれをどうするかということです。先ほどのPMDAのところと少し関わる部分があると思います。あとはインセンティブの問題ですが、何かコメントがあればお願いいたします。
これはアノテーションの話が入ってきているし、アノテーションは先ほどのAMEDのプロジェクトの議論と全く同じ話で、それではどうやってインセンティブがあって、アノテーションというのは相当なワークロードがかりますから、それをどうやってサポートしていくか。プロジェクトが終わるとスッとなくなる。そうするとデータセットが更新されなくなります。しかし、アノテーションは、簡単な仕事でもないので、どうやってやっていくかという話だとは思います。
○山内構成員 羽鳥構成員に何度もお聞きして申し訳ないのですけれども、実際問題として川崎市医師会で導入して、その機械を契約するときに実際にどういう契約をしているのか。言えることと言えないこともあるかもしれないのですけれども。例えば、胃がんの診断基準が変わったときには、それを売った会社がその診断基準が変わったことを、前にも具体的な例としてお聞きしたと思うのですけれども、変わったことを医師側に伝えて、機器を入れ換えますよ、診断基準を入れ換えますよというのを、そちらの会社から言ってもらうことになるのか、それともそれは医師側から、診断基準が変わったので機械をアップデートしてくださいと言うのか。それを更新しないままで使っていて、診断が間違ったら医者が結局責任を取るわけですよね。その辺の契約がどうなっているのか。
それから、そういうアップデートをするときに、アップデートする度に今は電子カルテもそうではないですか。アップデートする度に何億円というお金が出ていくこともあります。その辺の契約がどのようになっているのか。実際に実臨床として使っていくにおいてどうなっているのか、ということを知りたいのです。着手・対応済みの事項はAMEDのことしか書いていないのですけれども、そうではなくて実臨床として、ビジネスとしてなったときにどうなのかを知りたいと思います。
○羽鳥構成員 そういう意味では、まだ川崎市医師会、それからNEDOとの共同事業で実証実験をやるという段階です。さらに、アメリカ、ヨーロッパでも同様の研究が切磋琢磨しておりますが、画像処理で優位性のある日本に頑張ってほしいところです。20か所ぐらいこういう診断システムを作っています。今回のシステムは、要するに内視鏡検診をやったときの二次読影のときに使うということです。だから、一次読影で、一次読影というのは内視鏡をやりながらその場で本当は診断できるわけですけれども、その仕組みを今回使うというわけではなくて、二次読影される先生が膨大なフィルム、1人当たり100枚、1日100件見るとすると1万枚の画像を見なければいけないので、そのときに二次読影医が少しでも楽になるようにということでやるわけです。
将来的にはAIだけでやって、診断でどうだったか、内視鏡医だけでやってどうだったか、それと組み合わせたらどう精度が上がったかとか、そこまで行くことだと思いますが、まだそのレベルまでは行っていません。先生の御心配になっているようなことはないと思います。
山内先生がおっしゃられていることは7回目、8回目の議論でもありましたけれども、今はまだ医師が最終診断は持つということで、それはそれで結論がついていると思います。将来的には、AIのシステムがあるにもかかわらず、医師がAIの言うことを無視して診断して、これはこうだと言ったときに誰が責任を持つのか、あるいはその先生が告訴されることはないのかという議論はこれから起こってくることはゼロではないと思うのです。それは、まだこれからここでじっくり議論していかなければと思います。まだ中途なので、先生が御心配されているようなところまでは到達しておりません。
○北野座長 今の羽鳥先生の話の、AIの診断を医師がオーバーライドして間違ったときというのは、そういうことになってくると最終責任は医師と言いつつも、そこはAIがオーバーライドするとすごく怖くなります。割とリアルなイシューになるかもしれないですね。他にありますか。
○事務局 資料3に本日御欠席の渡部先生からの御意見がありますので、それをここで御紹介させていただきます。
資料3の3段落目からです。「今後について医療機器産業の立場から以下の2点の意見を申し上げます」とあって、第1については、これまで御議論を頂いたとおり、社会実装等が急速に進んでいるということで、「これら最前線での進捗や課題を共有することが本コンソーシアムの議論を現場に即したものにするために重要と考えます。特に薬事プロセスについては事例を積み重ねることで完成度を高めていくアプローチと認識しており、現時点での考え方や課題の整理は有益と考えます」ということです。最前線の進捗や課題の共有の必要性について御意見を頂いています。
第2は、「本コンソーシアムはAI開発と利活用促進に向けた検討をねらいとしており、前者は加速度的に進捗していることを踏まえ、今後、利活用促進、特に社会実装に向けた議論をどう進めるかを明確にしていく必要があると考えます。
例えば、①AIのアプリケーションをどのようにして臨床現場に届けるか、②安全性に関する周知やソフトウェア更新をどう運用するか、③レジストリを蓄積して、臨床研究や開発のPDCAをどう回すかなどです。この中で、①はSIP「AIホスピタル」のプロジェクトの中で具体的な議論が始まっていると認識しています。」これらは大きなテーマですので、別の検討会を立ち上げるのも選択肢と考えます。このような御意見を頂いています。
○北野座長 この辺りと、先ほどの責任のところに戻るのですけれども、医療行為に医師がというような場合は今までの整理が当面成り立ちます。介護・認知症と言ったときに、介護する人がAIシステムに基づいて介護の方針を変えるとか、やり方を変えると言ったときに、これは介護士が責任を持つ形になるのですか、多分そういうことになりますよね。基本的に今は人間サイドが責任を持って、AIはあくまでアシスタントだから、そういう形の整理になるのかな。今は、他の領域まで変えると言ったときに、責任の主体が各々の領域できちんとアサインできるかどうかというのは1つのポイントになってくると思います。その辺はよく見ていく必要があるのかと思います。
○諏訪園審議官 その点は今後ワーキングなどを通じて整理していただければと思います。現時点での法律面から見た枠組みの違いが何点かあるのだと思います。1つは医療機器だと薬機法によって、医療機器として整理されるものは医療機器です。介護現場で血圧計は医療機器ですけれども、車椅子は多少高度であっても、それは特に医療機器ではないです。いわば普通の製造物、工業製品ですので、民法上の不法行為責任なり、あるいは特則としての製造物責任法によって規律されているという点がまずあります。
それから、更に医師法という形で、画像診断と医師の役割という関係について、前回この場で整理がなされたと承知しておりますけれども、そういうことではない。医師のような診断権というようなものを持ったものではないということ。ただ、一方で個人情報という意味では、介護の現場でも医療情報と同等のセンシティブな情報が飛び交っていますので、個人情報保護法上の規律は恐らく医療と同様、介護も受けるのだろうと。それは、AIが読み込むデータという意味では、同じような規律を受ける。
そういう違いがあって、その中で様々な問題を、具体的な当てはめをどう考えるかというのをワーキングなどで御議論いただいて、整理していただければと思っています。そういう意味で最初のほうに羽鳥構成員から言われた、緩急があるのではないかと言ったのは、そういう立て付けなどの違いも考慮して考えるのかと受け止めていた次第です。
○羽鳥構成員 補足させていただきます。医療と違って、介護はそれほどシビアな状況はないと思います。要するに、誰でも年取ってよたよたになっていくわけです。そのスピードを遅くしてあげようとか、また認知症も今の医学では100%治す方法はないから、それを遅らせるということだと思うのです。ある意味で助けてあげるという、善意的な面が非常に出てくると思います。要するに、失敗したらこの人の命が駄目になってしまうとか、そこを強く責められることはないのだろうということで切り分けて、むしろ積極的に応援していくというスタイルがよろしいのではないかと思います。
○北野座長 分かりました。
○保科構成員 ここは、アップデートに関して先ほどAIの判断はどこまで使うのか、使わないのかみたいなお話がありました。個々の医療現場で、仮にAIが学習していったとして、アップデートという意味ではそれをどう集約して全体を賢くしていくのかというのは結構重要なポイントだと思っています。
全体を賢くしていくというのは、当然のことながらクラウド集約は必要になってくると思うのです。個々の医療現場で学習したのを仕組みとしてクラウド集約していく仕組みというのは、国としてどこまで考えるのかというのがちょっと気になっています。仮に今度仕組みを作った場合でも、学習データの量を取るのか、質を取るのかみたいなお話はこの後出てくるというか、議論していかなくてはいけないところなのかと感じています。
○北野座長 商用化後のアップデートになると、各サービスプロバイダーになってしまうから、国が主体にはならないのではないでしょうか。
○保科構成員 そうです。それはもう完全に医療機器メーカーとか、そっちのほうに任せるのか、あるいは国として何か考えるのか。恐らく医療機器メーカーなのかと思うのですが。
○北野座長 メーカーなのでしょうね。それを国が何かやるのはなかなかできないですよね。よく分からないです。
○葛西プロジェクトチーム技術参与 関係して、私もここはすごいと思います。表向きテクニカルではなさそうに見えて、すごい技術的な内容が書かれています。私の知る限り、AI系やプラン系のプラットフォームで使っているものというのは、中核のアルゴリズムは結構海外のものが多かったりします。かつ学習データが海外へ行ってしまう。簡単に言うと、介護者の情報が、匿名性が保たれているかどうかも分からないまま海外に吸い上げられている可能性もゼロではないみたいな状態があります。
一方良かったのは、日本の場合は比較的画像情報に関してプラットフォームがしっかり民間企業で作られつつあるということで、テクノロジーのプラットフォームの在り方が全く違う分野がたくさんあります。日本でもそうなのですけれども、危ないのが、この分野では政府が作るプラットフォームというのが一番小さくて、海外が持っていたり、各民間企業が持っているプラットフォームのほうがはるかに大きいので、そことの相互運用性が保てるのか。
もう1つは、民間側に対して、とはいえ私自身怖いと思うのは、知らない間にGDPRと言いながら、Cookie OKと押してしまったら全部情報を吸い上げられてしまうというのは、さすがに何か考えなければいけないのではないかという気がするのです。機微情報であるにもかかわらずというのを、国と関係のない所で民間でどんどん医療情報が取られているというのは、何かのルールというか方法を考えていかないと、知らない間にバックボーンで取られるというのを感じます。
もう1つは、なぜか国の場合は設計するときにマルチクラウドで考えることがほぼないのです。これは、ハイブリッドクラウドでもいいのですけれども、クラウドに関する技術論がそんなに成熟していないので、最近私は垂直統合クラウドと言っているのですけれども、A何とかSがいいか、A何とかZがいいかみたいな、どれかの製品群のパッケージ製品を買うみたいに、そういう形でデザインパターンを組んでしまうと、民間はそのようにはやっていません。全部マルチクラウドなので、マルチクラウド・トゥー・マルチクラウドでAPIで繋ぐというような設計思想を理解しないと、単純な政府調達的な発想で設計してしまうと国だけが取り残される。民間が全部巨大なプラットフォーマーになっていって、国は全く規制できないというようになる可能性はかなり高いと思うのです。今ややそうなっているなと私は思っています。ここは意外と知恵を持ち寄ってちゃんと議論しないと、それこそ海外にデータがどんどん取られる時代だという危機を感じています。
○北野座長 そこは非常に重要なポイントで、海外のいろいろなプラットフォーマーがすごい勢いで、メディカルデータで研究を始めているわけです。日本でこういう議論をしているのだけれども、結局海外のデータのほうが大きくて、一番良いクオリティの診断支援だとかそういうことをやる場合、外にあるクラウドの医療サービスをサブスクライブするのが一番良いというようになった場合には、そこを使うためにデータを一旦出す必要があったり、そこに連動しなかったらそれは使えないというようになった場合には、海外のプラットフォーマーに情報が一旦全部流れるというようになる可能性は極めて高い状況として今はあります。
それは、医療とか製薬メーカーという所が必ずしもやっているわけではないです。むしろそうではない所のほうがすごく進んでいます。米国のある企業は、最近有名大学の画像認識をやっている人を引っ張って、そういう部門を作っています。中国の企業もものすごい勢いで中国の病院に画像認識とかそういうものを入れています。週に3病院ずつ増やしていて、今は何百病院やっています。
なぜかと言うと、どちらも病院の基幹インフラの情報システムを握っているので、そこのクライアントの病院にどんどん、診断システムにトライアルしませんかと入れていくという戦略になっています。医療機器メーカーが個別に撃破するというのではなくて、業務インフラを持っている所がそちらに乗り出してくるとなると、一網打尽に行くというか、すごい速さでスケールしていきます。そのようなスケールでやっている所とはビジネスモデルの速度感とかスケール感が違うように感じます。
アメリカで開発されたものだと、そのまま日本に対応されるには、エイジアンポピュレーションに特化していないなどあると思いますが、中国の会社だとエスニシティは非常に近いわけです。それをよしとするかと言うか、それが必ずしも絶対に駄目ということで決め付けるわけでもないのだと思うのです。リアリティとしてはそういうことが起き得るということを頭の中に入れておく必要はあるのかもしれません。
次は「その他」のところでいろいろ入っていますが、ここに関してコメントがありますか。アイテムとしてはこれが最後になります。
○山内構成員 今の御意見を聞いていて、中国などはAIの人材育成というのはものすごい勢いでされていると思うのです。一時期非常にアメリカでワッとそういうのを育成しているときに、中国からたくさんの人が来て勉強して、今は自国に帰っている状況があります。人材育成というところが、本当に早急な喫緊の課題だと私は思っています。この会でそれを提示おりますけれども、また引き続き統合イノベーション戦略推進会議でやっていくということなのか。人材育成に関しては人材育成で、本当にワーキンググループを早急に立ち上げて、どんどんやっていくのを是非お願いしたいと思っています。
○北野座長 人材育成に関しては、私はAI戦略のほうもやっています。そこではトップ人材1,000人規模、その後に25万人の中核エンジニアや応用人材、それからリテラシーとして全大学生・高校生といったことをピラミッド型で挙げています。それは、特定領域は余り意識しないで、全体的にこれをやりましょうということなのです。医療系に関しては、医療系のAI人材の育成のようなことをきちんとやるプログラムが非常に重要だと思います。AIのことが分かっても、医療のことが分からないとできないのです。それを両方分かる人材で、医療に一番興味を持っていて、そこにパッションがある人は医学部にいるわけです。ただ、ある医学部は、AIが重要なので、自習してくださいというガイダンスをしていて、AI関係の人間はそれを見てひっくり返ったというか、「自習かよ?」ということで話題になりました。そこは、きちんとしたコースを本当に作っていく必要はあるのだろうと思います。誰が教えるかという問題もありますけれども、そこは結構重要なポイントです。
先ほどの中国企業なども、医療系のトップはNIHに15年近くいた人なのです。そういう人が戻ってきて、その人の知り合いのチームが米国や欧州から戻っています。だから、レベルは高いです。そういうことがリアリティだということは理解する必要があると思います。
○保科構成員 今のと絡むのですけれども、AI人材の裾野を広げるというのは、それはそれでやるのは必要だと思います。私が感じるのは、AIの専門家と、いわゆる医療関係者のマッチングがうまくできないかなという気もしています。さらにその先を言ってしまうと、マッチングができたとしても、私自身も最近いろいろやっていて思うのですけれども、AIの専門家と医療の専門家が協業する場合、使う言葉から、カルチャーからちょっとギャップがあると思うのです。そこをうまくつなぐ人材というのも恐らく必要だろうと感じています。
○北野座長 正にそのとおりです。ただ1つの希望は、若手の研究者は、もうAIをやらないと自分の将来はないと思っているから、ものすごい熱心に勉強しています。そこはすごく希望だと思います。やはり、自分の未来は真面目に考えているので、そういう人はかなりいます。それは数が十分でないかもしれないけれども、そういうところにそっぽを向いているわけでは全然ないとは思います。それをどうやって加速して、質の高い人材をたくさん育てるかということは重要なポイントだと思います。他にありますか。、特に全体を通じて何かコメントがあればここでお伺いします。
○羽鳥構成員 先ほど議論していた電子カルテの標準化について、私はここで3回ぐらいしつこく言ったので書いてもらったのだと思うのです。もう1つ内閣府の別の委員会でやっていると思うのです。昨日も日本医師会の理事会で報告を聞いたのですけれども、何かスピード感がない、本気でやっている感じがしないのです。もっと、これでやるというように早く言ってくれないと、その標準化を決めると言った段階から、実際に動き出すのは5年後10年後だから、結局何もできないようなこともある。厚生労働省は20年前に、電子請求するところでスタートすればよかったと思いますが、それをやらなかったという失敗もあるのですから、ここではこれでやると言い切って、これとこれこれの項目は絶対に何がなんでも来年から集めるのだというぐらいのことを提案してほしいと思います。SS-MIXではだめだという意見もあって、形式もまだ確立していない。それの議論だけ聞いていると、きっと進まないと思うので、是非思いきってやってください。
○大坪審議官 ありがとうございます。内閣官房の立場で答弁申し上げますと、そう言っていただけるととても有り難いです。厚生労働省の中でその技術の議論が進まないものですから、10月から内閣官房のほうでその協議会を立ち上げて、医療情報技術といったところを議論しています。これを急ピッチで進めており、11月中に取りまとめることにしていますので、多分今月中には報告書が出て、それを厚生労働省のほうに送ります。厚生労働省のほうでは来春までに、どのように医療現場に落とすかという議論をするものと承知しています。内閣官房としては急ピッチで今月中に議論をまとめる予定でおります。
あと人材育成のところで、先ほど北野座長からお話を頂きましたように統合イノベーション、本部のほうで6本部、健康・医療、IT、CSTI、太陽、宇宙の6つが集まっている本部の中でAIのことを議論しています。人材のところで、教育に関しては厚生労働省に予算が全然ないものですから、ここは社会実装という観点で厚生労働省は主に役割分担を頂いています。今回のディープラーニングに係る課題とか、商品をどうするか、AMED画像6兄弟をどうするかといったところは厚生労働省の担当なのですけれども、人材教育のところは文部科学省、総務省、経済産業省といった所が大きな予算規模の事業も実施しており、そこでまず裾野の拡大、人材育成をまず進めています。
厚生労働省は、もうちょっと人材が潤沢になってきたところで、確かにマッチングとか、そういうことが必要なのは分かっているのですけれども、研究の中のオン・ザ・ジョブで育成するみたいなところが多くて、それに特化したような予算というのは今の厚生労働省の中では難しいものですから、全省庁挙げて役割分担的に今は進めています。補足させていただきました。
○北野座長 AIのところは、医学部でAIの先生を専任で雇うということは、今は人も足りないし結構大変なのです。ただ、他の学部でも同じことなのですけれども、「AI x専門領域」という人をたくさん育てなければいけないのは、医学だけではなくて全領域です。そこで非常に重要なのは、学部を超える単位認定です。これをもっと自由化することが必要で、医学部にいるのだけれども、理工学部の情報のAIの授業を履修したら、それがきちんと単位認定されるとなると非常に良いのですけれども、今はそこは割とバリアがあります。
そこのところは文部科学省の課題ではあるのだけれども、例えばこういうワーキンググループから文部科学省にリアルな問題として、医学部の学生に関して、理工学部の情報のAIなどの授業を聞いたら、そこは単位を繰り込めるようにするというようなことが、もっと活発に早くできれば良いと思います。今では、理工学部でAIをやっていないという所はないですから、何らかの形でやっています。できれば学校を越えても良いから、一番トップレベルの所を聞けるというようにする、そこのところを自由化するというのは非常に重要なポイントだと思います。
大体時間になりましたので、特になければこれで終わりにしたいと思います。事務局から、次の日程等をお願いします。
○事務局 次回の日程については、1月31日を予定しています。本日頂きました御意見を踏まえて資料を修正させていただきます。次回は、ロードブロック解消に向けた工程表及び俯瞰図に基づくAI開発促進のための工程表についても御議論を頂ければと思います。
○北野座長 本日はありがとうございました。ちょうど時間となりました。またよろしくお願いいたします。