- ホーム >
- 政策について >
- 審議会・研究会等 >
- 厚生科学課が実施する検討会等 >
- 保健医療分野AI開発加速コンソーシアム >
- 第８回 保健医療分野AI開発加速コンソーシアム（議事録）
第８回 保健医療分野AI開発加速コンソーシアム（議事録）
日時
令和元年6月6日 16:00～18:00
場所
合同庁舎５号館厚生労働省省議室（９階）
議題
（１）AMEDにおける画像関連データベースおよび共通プラットフォーム構築研究の現状
（２）人工知能技術を利用した医用画像診断支援システムに関する評価指標と医療機器の承認制度の見直しについて
（３）コンソーシアムにおける議論の整理について
（４）その他
（２）人工知能技術を利用した医用画像診断支援システムに関する評価指標と医療機器の承認制度の見直しについて
（３）コンソーシアムにおける議論の整理について
（４）その他
議事
- 事務局 定刻より１分ほど前でございますが、委員の皆様方おそろいでございますので、「第８回 保健医療分野AI開発加速コンソーシアム」を開催させていただきたいと思います。皆様方におかれましては、ご多忙にもかかわらずご出席いただきまして、誠にありがとうございます。
まず初めに、事務局より構成員の出欠についてご報告をいたします。本日は、松尾構成員、間野構成員、宮田構成員、山本構成員より、ご欠席との連絡をいただいております。
本日ご欠席の構成員の代理出席の方でございますが、国立研究開発法人 産業技術総合研究所 人工知能研究センター 研究センター長の辻井構成員の代理として、市川副センター長、日本製薬工業協会 知的財産委員会運営委員 堀川構成員の代理として、日本製薬工業協会 研究開発委員会の赤塚専門委員長にご出席いただいております。
次に、オブザーバーでございますが、本日も、内閣官房情報通信技術総合戦略室、内閣官房健康医療戦略室、個人情報保護委員会、総務省、経済産業省、当省データヘルス改革推進本部からご出席をいただいております。
その他の事務局及び関係部局等からの出席者についても、座席表に記載のとおりでございますので個々の紹介は割愛させていただきます。それでは、冒頭カメラ頭撮りはここまでとさせていただきます。
それでは、以降の議事進行につきましては座長にお願いいたします。
（北野座長）北野です。事務局から資料確認をお願いいたします。
（事務局）本日はペーパーレスにて実施させていただきますことを、ご了承のほどよろしくお願いいたします。
資料につきましては、議事次第、資料１～４、参考資料１～３及び過去７回分の資料を、お手元にございますタブレットに格納しております。タブレットの操作方法につきましては、「タブレット操作説明書」をご確認ください。ご不明な点がございましたら、職員が参りますので挙手をお願いしたいと思います。
（北野座長）それでは、議事に入りたいと思います。今回のコンソーシアム、第８回になります。画像診断支援を最初に取り上げて、開発段階のロードブロック、それにどう対応するかという議論を行ってきました。それ以外にも介護領域等の分野に関する議論を行ってまいりました。
今回は、前半で画像データベース及び共通プラットフォーム構築に関する現状と、医療機器の評価指標策定、薬機法改正に関してご発表いただいて、後半は今までの議論のまとめを行いたいと思います。そのまとめに基づいて、これからタスクフォースなどで、具体的に実行するというような議論が進むことになると思います。
まず、資料１について、末松構成員からご説明をお願いします。
（末松構成員）大部に渡ってますので、できるだけ簡潔にご説明したいと思います。
【資料１ AMEDにおける画像関連データベースおよび共通プラットフォーム構築研究の現状】
○Great Demographic Transition in Japan（P.2）
これは長谷川敏彦先生がまとめられた研究の一部を、ご了解をいただいて使わせていただいています。
横軸が明治維新から2110年になっていまして、縦軸が、正の方向にその年の人口の何％が50歳以上か、あるいは、下のほうに50歳以下かというのがプロットしてあります。AMEDが設立されたのは2015年で、デモグラフィックドリフトと呼ばれる超高齢少子化のグラフ、つまり下のカーブも、上のカーブも上がっていく。この期間が70年ございます。1970年代の後半、80年代の初めぐらいから2040年までこういうスピード感で変わり、2040年以降はほぼプラトーに達します。
これは人口のトータルの数は反映されていません。あくまでパーセンテージです。なぜパーセンテージで示したかというと、ほとんどすべての国がこの形のデモグラフィックドリフトを多かれ少なかれ経験する。日本が一番最初にピークに達して、その後、他の国が同様になるわけです。
AMED発足以来、私どもはデータのリンケージ、あるいはデータのシェア、そういったもので、医療分野で今まで解決できなかったことを何とか解決しようということで、いろいろな施策と研究開発を推進してまいりました。
○ヒト生涯の健康に関わるデータ（概念図）（P.3）
翻って、日本のデータのありかを人間の一生の軸に沿って見て参ります。これは「山手線と常磐線の図」というんですけれども、山手線の12時の方向から子どもとして生まれて、人間の一生のデータがそれぞれの駅にあるわけですけれども、それらのリンゲージができていない。それをリンクさせて利活用して課題の解決に生かすのは大変難しいということだけ、ここで申し上げておきたいと思います。
○AMEDによるAI関連研究課題の支援（P.4）
2040年に起きる出来事は、地球上の誰も経験してこなかった超高齢少子化社会です。そういった中で、１人１人の患者さんの医療機関へのアクセスビリティとか、医療機関ごとのデバイド、特定の領域の専門医の数がどうなるかとか、いろんな問題が複合的にございます。例えば日本病理学会の専門医数は２千数百しかおりません。臨床画像、AI関連研究課題に関しても、左側にございますように、学会ごとのDBを画像兄弟と呼んでいますが、今６兄弟ございまして、病理も兄弟の一員です。ここから、学会がアプルーブした認証画像を学術研究の目的でどうやって効率的に集めるかということが我々の一番大きな課題でした。３年前からこれに取り組んでいます。
これは喜連川先生に多大なご尽力をいただいて、国立情報学研究所のマルチクラウドに集積した画像をプロットアウトしたものです。医学放射線学会からは2,900万という多数の画像をいただいておりますけれども、これは１人当たりの、CTの断層像の１つ１つを１と数えた場合の数でございます。
医学放射線学会のパイチャートのところに薄い白い線があって、そこを拡大したのが右側に書いてあります。医学放射線学会のCT画像はアノテーションがこれから付けられるところです。つまり、NII、国立情報研に送られたデータにアノテーションを付けるという作業が待っています。一方、右側のところに関しては、目的のアノテーションが進んでいる画像ということで、現在AIの開発に実際に使われている画像数がおおよそ７万7,000ということであります。
○国立情報学研究所（NII）による共通プラットフォームの構築とSINET5を利用した画像情報の集積（P.5）
今申し上げた学会からすべての画像がこのメカニズムで集められているわけではありませんが、国立情報学研究所のイニシアチブのおかげで、この通信網を使いまして、かなりのパーセンテージの画像が複数の学会から集積され、「競争・協創」の精神でAIの開発が進んでいます。
アメリカと中国が非常に大きなデータを占有して、AIでどちらが勝つかという議論がありますけれども、日本もこのネットワーク、あるいは将来構築されるであろう情報ネットワークがあれば、広域に開発したAIを各医療機関で使えるチャンスがあるということです。SINET5のノードは、すべての国立大学と、かなりの数の私立大学にあります。もちろん病院の情報はそことセパレートされていますけれども、これを広域に連携する事業と位置付けています。
○組織体制①：日本病理学会（JP-AID）（P.6）
以下、組織体制を書いてございます。日本病理学会、医学放射線学会等、それぞれの学会はこれまでも画像情報のアーカイブ化をやっています。しかしながら、お互いの学会がどういうフォーマットで画像を蓄積、あるいはブラッシュアップするかというところはお互いに知りませんでした。画像兄弟に事業を始める時に、これを１か所の仮想空間上に集めて、お互いのやり方を学びながらやれないだろうかというのがこの発想でございます。組織体制の細かいところは縷々ご説明しませんけれども、情報を集める時にSINET5でまとめているということでございます。
○組織体制④：日本眼科学会（P.9）
全部の学会のことをお話しする時間はございませんので、９ページをご覧いただければと思います。日本眼科学会の取組でございます。
ご存じのように、眼科の臨床情報は初めからデジタル化が進んでおりまして、１人の患者さんのいろいろな眼球の情報がデジタルで全部取れるということで、眼科学会でそのデータベースを作っているところです。黄色いところのデータベースより下を、これからどうやって作っていくかという段階になっておりますけれども、解析センターのデータベースにSINET5を使って、いろいろな情報をこれから集めていこうというところでございます。
以下、簡単に成果をご説明したいと思います。
○日本病理学会の成果（P.10）
この会で前に少し触れましたけれども、日本病理学会にデータセンターがすでにございます。日本病理学会のクラウドに収納された情報を全国のWSI（Whole Slide Image）に集めてありまして、アノテーションを付けた画像に関して国立情報学研究所のマルチクラウドに入れていただいて、ここでは胃生検のAI診断システムを構築しています。
これを使いまして、実装研究、福島県立医大の病理の専門医の先生方にご協力いただいて、いわゆる地域の中核病院の病理組織を福島県立医大に、病理学会のデータセンターを介して送ります。それを試験的に開発したAI診断、ここのエンジンに通しまして、その結果を福島県立医大に回付して、最終的には病理の専門医の先生の判断を加えて市中に返していくという事業を２月からスタートしております。
○日本医学放射線学会の成果（P.11）
医学放射線学会の成果はこれからというところですけれども、2018年度は頭部CTにおけるくも膜下出血の検出のためのAI開発を進めております。
○日本消化器内視鏡学会の成果（P.12）
ここは非常にたくさんの画像を取り込んでいただいておりまして、健常人、特にスクリーニングのスナップショットが日本はたくさんストレージされています。アメリカ等ではストレージが非常に少ないです。ですから、GIのAIの開発は非常に遅れています。消化器内視鏡学会のご協力で、スナップショットからどこの胃の部分が撮れているかというのを、AIで自動的にアドレスするところまでレベルが上がってきていまして、昨年度は潰瘍性大腸炎の診断に資するAIの開発にまで、開発の手が及んでいるところでございます。
○日本眼科学会の成果（P.13）
日本眼科学会は画像兄弟の中では弟分、末っ子に近いところですけれども、すべてのデータがデジタルで収納されているのが有利な点で学会をあげて協力していただいているところです。下のグラフの横軸に、トレーニングイメージの数をログスケールで示しています。縦軸が正解率になります。今2,500ほどの緑内障の診断に資するティーチャーデータを集めて、もうすぐ正解率９割までいくところでございます。
ここにはございませんけれども、皮膚科学会はデルモスコピー、これは病理学会との連携で仕事を進めていて、海外ではメラノーマという悪性黒色腫の診断AIが有名ですけれども、日本の皮膚科学会は、一般の方々によく見られる十数種類の皮膚疾患を識別するための教師データを着々と集めています。
超音波学会は動画でございますが、企業とすでにいろいろな共同作業が進んでいまして、超音波の機械上で、「ここに病変がありますよ」と自動的に指してくれるようなAIの開発を進めています。商業利用には制限がありますが、どのぐらいのことができるのか、どのぐらいの数の画像があればどの程度のことができるのか、ほぼ固まりつつあります。
○課題解決のための方向性（案）（P.14）
課題はたくさんございます。画像のストレージ、あるいは解析、セキュリティ技術は、NIIに非常に大きく依存しています。またAIの開発もNIIの若手研究者の方々の多大のご協力があって成立しています。このグループを崩さないように、全体を民転換するにはどうしたらいいかという議論を、画像兄弟の皆さんと相談をし始めたところでございます。
○課題・障壁：研究で解決できる部分と難しい部分（P.15）
このプロジェクトが始まる前の課題・障壁を一番左のカラムにまとめています。アノテーションに関してはかなりと進んだと考えています。当初はばらばらのことをやっていましたし、アノテーションなしでいきなり画像を送ったり、いろんなことが起きましたが、今はそういうこともありませんし、医学放射線学会から来た画像はアノテーションを付けるという前提で導入が進んでいます。それから、どこのアノテーションツールが優秀かというのを、それぞれの学会がお互いに理解をするようになりましたので、何を使ったら一番スムースにいくのかというパラダイムで皆さん頑張ってやっていただいています。
中段にJAMIというのがあります。これは医療情報学会です。医療情報学会のガイドラインがようやく出来上がって、今後、精度をどうするか、診療報酬化がどういうふうになるのかというところがこれからの課題になります。
データの標準化について、それぞれの学会の中ではほぼ統一されていて、かつ、将来これを統合的に使えるように国立情報研にいろいろご指導いただきながら、フォーマットで寄り添う形に統合されつつあります。学会主導で各データベースから教師データを持ちよることにより、質が担保された画像データと診断情報を多数集めることが進んでいます。知財の問題など、課題を赤文字で書いておりますけれども、そういったところはこれからの課題ということになります。
以下は参考資料ですので、個別にご質問いただければと思います。
（北野座長）ありがとうございます。今の末松さんの発表に関して、ご質疑等ございますでしょうか。
（山内構成員）AMEDのすばらしい取組をお話しいただいて、やはりこういうのは誰かがリーダーシップをとってオールジャパンでやっていかないと、それぞれがばらばらのことをやっていたら国際的にも後れを取ってしまうと思いますので、AMEDが学会をまとめてやってくださっていることは非常にありがたいと思いました。
ただ、10ページ目の表、病理医が腫瘍でないといったものをAIがキャンサーと判定したのが26.5％というのは、臨床の立場からいうと非常に私は実はショックです。例えば病理医が２人でダブルチェックをしても、多少違うということはあり得ると思います。病理診断という臨床の場で。ただ、胃の生検に関して私は最新のあれは分からないですけれども、ここまで違わないのではないか。AIの専門家の方々もいらっしゃるのでお聞きしたいのですが、これがAIの限界ではない。これは996症例の胃生検を機械学習させたので、もっと数を読み込ませて、もっと教え込めばといいということでよろしいですか。
例えば、胃生検の場合は996例では足りなかった、感度特異度を高めるためにはそれではだめだったということになると、それぞれの症例、臨床における判定すべき検討事項において、どのくらい機械学習をさせれば感度特異度がよりパーフェクトに近づくかというある程度の基準がないと。これから競争でいろんな会社が出してくると思います。この会社では何症例やって感度特異度がどれくらい、この会社ではどれくらいというものが機械を評価する時についてこないと、臨床の現場でどちらを使うというのが非常に悩ましいと思ったので、そういったことを今後基準として入れていくのかという、その２点を教えていただけますでしょうか。
（末松構成員）私もできうるかぎりワーキンググループには参加するようにしておりますけれども、数をどのぐらい増やしたらどのぐらいの正解率になるかは、やってみないと分からないということです。それで今日ここにデータをお示ししています。
我々のストレージには、ここに示した数よりもはるかに多いデータがあります。それをこれからさきぼどの眼科学会の緑内障のデータのように、どこまでいったらいくかというのを外挿していくことが重要だと思います。
内視鏡学会と病理学会のコラボレーションに関しては数が圧倒的にあることと、学会がアプルーブした画像が来ているということが非常に重要でありまして、これを個別の専門家と思われる方と企業でばらばらにやっていくと、それなりのばらばらの結果が出てきますが、初めから学会にデータの質を担保してもらって、「こういう基準で集めたもの」というところをできるだけそろえるのが画像兄弟の一番重要なところだと思っています。
集めた画像が多すぎるのではないかという議論もありますが、我々はAIを考えるだけではなくて、これは将来の話ですけれども、いずれIDナンバーで名寄せができるようになった時に、１人の患者さんで複数のモダリティの画像診断をつないでみるとどういうことが分かるかというのをやる時に、今からデータのリンケージの仕組みをできるだけ寄せておくということも、この活動の主目的の１つにしています。この研究はあと１年半ぐらいございますので、その間に何とかソリューションを出していきたいと思っております。
それから、皆さんおっしゃっているのは、誰が見ても良性、誰が見ても悪性というのはいいですが、真ん中のグレーゾーンのところのトレーニングデータがちゃんとしていないといけない。そこはおそらく人間とAIで共同して、最後は人間が決めないとワークしないだろうというふうに今のところ考えております。
（北野座長）この図は、カットオフがいくつかによって下の行列もずいぶん変わってきますし、どういうアルゴリズムを使っているかも書いていないので、ここは１つの例ではありますけれども、少し冷静に見て良いのではないでしょうか。実際にやっている西川さんはどんな感触ですか。
（西川構成員）私たちもマイクロRNAのデータを使った診断の分析をしていますが、実際に実験してみるまで分からないのと、あとは、検体の状態にも左右されるので、今そこは検証を重ねている段階です。ただ、基本的にはデータが集まれば集まるほど精度は良くなるのと、手法によっても精度は変わってきてしまうので、どれだけ優れた手法を作るのかというのも大事であり、いろんな手法を試してみたり、その手法をアンサンブルしたりして、より精度を上げる方法を模索しているような段階です。
（末松構成員）山内委員からのご質問でダブルチェックの話がありました。日本病理学会は専門医の数が少ないです。2,000数百名しかいません。病理学会の北川理事長の話ですと、400床クラスの病院の30～40％が１人病理医です。つまり、ダブルチェックがそのまま個別の病院単位ではできないのが現状です。そのソリューションとして、画像兄弟の試みが近い将来使われないと大変だというのが現場の状況ではないかと思っています。
（北野座長）これを見ると、誤検出はあるけれども、見落としはない方向になっています。見落としてしまうほうが怖いと思います。
（葛西構成員）私はこの事業にデータヘルス改革推進本部としても着目をしていまして、大変勉強させていただいていますが、この事業に関わる図で、気になるのが正解率です。25％正解率と言っているのは、もう１回やった場合25％なのかどうか。再現率、リコールが必ずこうなのかも分からない。それから、当然プレシジョンを見なければいけない。これは前回私も言ったんですけれども。こういう数字がワンショットだけ出て判定するというのは誤解を招くのではないか。医学の世界も多少私も立場上知っているので、そう考えると、この数字が１人歩きするのは危険だろうなと思っています。
ただ、人工知能は開発の面でいうと全く皆さん同じ意見で、画像数を集めるだけではなくて、アルゴリズムの組み合わせ、正解度を変えるアルゴリズムを採用するのか、修正するアルゴリズムを使うのか、何度もトライ＆エラーをします。こういう事業をやる時に気になっているのが、プラットフォームのあり方を、日本は囲い込みやすい。ここでもそうですが、14ページ目にあるように、開発基盤という開発の仕方。私は開発者でもあるので。いろんな開発手法があって、トライ＆エラーがもっと早くできる方法がたくさんあるにもかかわらず、ある一定の開発基盤のやり方だけを信用してしまうというのは危ないと思っています。
いろんな方法で素早く開発して、素早くアルゴリズムの組み合わせを取り替えていって、画像を簡単に読み込んで、開発者が新しい人工知能モデルをスピード感をもって修正すると、アキュラシーにしろ、プレシジョンにしろ、もっといい正解が出ると思います。なぜ開発現場でそれができないかというと、アキュラシーを取ったり、プレシジョンを取ったり、リコールを取って、何回も評価をしなければいけないということのトライ＆エラーについていけないような開発基盤というのは、そろそろ日本はやめなければいけないだろうなということは、私自身も自分で開発基盤の設計をする中では留意をしているところで、開発者がもっと早くトライ＆エラーができる方法を着目いただけるとありがたいと思っています。
（北野座長）今のご指摘のようなことを、例えばNIIのデータベースに情報系、AI系のいろいろなことを試したいという研究者や事業者からオープンにアクセスできて、いろいろ人がいろいろなことを試してみることが重要だと思っていますが、これからどういうことになるでしょうか。
（末松構成員）おっしゃるとおりで、今ご指摘のあったようなAIのインプルーブメントのことは非常によく分かりますが、何よりも臨床の先生方が忙しくて、AIそのものを自分で開発を考えるというところは、NIIの若手研究者の方たちや、あるいはこの画像兄弟の中には、画像処理とかAIの専門家で他の大学の方々が相当数集まってきて、同じ土俵の中で仕事をやっていただいています。そういう経験値が今までなかったので、そういう意義は今のところあるのではないかと考えています。
（北野座長）他にご質問等ございますでしょうか。
（渡部構成員）これまで何年かの間にデータの整備をやって研究が進んできて、かなりの見通しができてきたこと、AMEDがリードしていただいていたことは本当にすばらしいと思います。
最後ご提案があった課題解決のための方向性というのは、臨床研究を進めていくということと、医療現場に届けるフェーズになっていくということだと思います。産業界もここにあるような問題に非常に苦労していますので、これがいいのかというのはありますけれども、ぜひ一歩進めていただきたいと思っております。インフォームドコンセントの制約があるというのは非常に好機でありますので、皆さんの理解をいただけるような形の議論が進むといいなと思っております。
それから、NIIは先行的な研究をやっていただいていますが、研究テーマはもう少し先までAIの分野はいっていますので、産業界と分担する部分はあると思います。例えばアカウンタブルなAIにしていくとか、少ないデータで精度の出るようなAIだとか、アメリカはDARPAがお金を出してやっていますので、そういった形での進化。もう１つが、研究ではないですけれども、アルゴリズムを医療現場に届ける時にポータルがいるのではないかとか、デリバリーの仕方というのも１つの議論になると思います。そういうふうに、次のフェーズということでいろんな議論が進んでいくことを期待しています。
（末松構成員）一番大きなボトルネックは臨床研究におけるデータの２次利用。要するに、民間の企業の方たちとやれるプラットフォームにするには、一番最初のインフォームドコンセントのところとか、オプトアウトをどうするか。そこに関して、これはベストソリューションかどうか分かりませんけれども、EUやUKはダイナミックコンセントという、個人の端末でオプトアウトする、しない、あるいは同意を取る、取らない、そういう仕組みを本格的に導入しようということが考えられています。日本はそこを必ずしもキャッチアップできているわけではないという問題意識があります。
同じことはゲノムの情報のところでも、我々が受け持たせていただいているゲノムの研究は相当数ありますので、そういったところが一番のボトルネックになる。そこを初めから商業利用ができるような画期的な仕組みにしないと、一番最初のデモグラフィックドリフトを見ていただいたら分かりますけれども、我々に残されたチャンスはあと20年ですので、そこは非常に危機感を持っています。
（北野座長）まだ議論したいところはありますが、時間もありますので、末松先生ありがとうございました。それでは、事務局から資料２、３に関して説明をいただければと思います。
（森審議官）資料２、３のご説明をさせていただきます。ここでは薬事規制におけるAIを利用した医療機器を評価するプロセスということで、今の策定状況をご説明したいと思います。
【資料２】
文字ばかりで見にくいと思いますが、AI画像診断支援システム評価指標について通知をした資料であります。５月23日に公表した通知で、５つ、いろいろな次世代のものについてそれぞれ指標を作ってお出ししていますが、そのうちの１つ、人工知能技術を利用した医用画像診断支援システムというものについて、別紙４に示しています。これは厚生労働省が実施している事業の報告書をベースにして、パブリックコメント手続きを行い、薬事・食品衛生審議会への報告を経て公表に至った文章です。この文章の概要について、かいつまんでご説明させていただきたいと思います。
○別紙４ 人工知能技術を利用した医用画像診断支援システムに関する評価指標
１．はじめに（P.3）
AIを利用した医療機器では、最終結果を導き出すアルゴリズムがブラックボックスになっている点や、市販後学習等による性能変化もアウトプットでしか評価できないという課題があるということを紹介しています。その中で、どのように学習の品質確保を行い、承認をした時から市販後まで、システムの有効性・安全性をどのように評価するかということについての、現時点の考え方を整理したものであります。
２．用語の定義・説明
２は用語の定義でございます。
３．本評価指標の対象（P.5）
この評価指標の対象を明らかにしてございます。この中に略語がいっぱいあるものですから、CADe、CADx等それぞれ定義を示して、それについて論じています。
４．本評価指標の位置付け（P.6）
この文書はあくまで、現時点で考えられるうる問題点、留意すべき事項を示したものにとどまっておりまして、この領域は進化が速やかですので、今後のさらなる技術革新や知見の集積を踏まえて見直しが必要になりうると考えています。したがいまして、実際にPMでの承認審査というのはここに示した評価指標にとどまらず、いろいろなものがご提案されることになるだろうと考えておりますし、そういったものに対して柔軟に対応して考えながらやっていくことが必要だと思います。
５．支援システム等で想定される主な課題と解決の方向性（P.7）
AIを用いた医療機器のブラックボックスとしての性質、それから、市販後の性能の変化、使用に伴う責任の所在。それぞれ難しい課題でありますが、これについて論じております。
このうちの（２）市販後の性能変化に関して、8ページの下のところに、薬事上の手続における考え方を示していますが、性能の変化の内容及びその変化に伴うリスクを勘案して行うと。薬事の関係は、医療の現場で使うものに対して、リスクについて考慮することに重点を置いているという観点を示してございます。
性能が変化していくものに対して、薬事上の手続きは、一部変更承認申請という資料を出していただいて審査をするという一定の期間の掛かるプロセスを一律に求めるものではなくて、この点については医薬品医療機器法の改正案を今、国会に出しておりますが、AIを用いた医療機器等については柔軟な変更プロセスが必要だということで提案してございます。これは後ほどご説明します。
６．評価に際して留意すべき事項（P.9）
ここ以降では、これまでに説明した基本的な考え方に基づきまして、具体的に着目するべきアルゴリズム、データの種類、学習の品質確保、リスクマネジメントの考え方について述べております。詳細は省略させていただきます。
○別添 使用者等が性能変化に関与可能な人工知能技術を利用した医用画像診断支援システムに関する基本的考え方（P.17）
ここには使用者等が性能変化に関与可能なシステムの基本的考え方を付けてございます。将来的に現場で使用され、そこでデータを学習させ、それによって性能が変化するというタイプの製品も想定されうるということで、このようなものを付けてございます。
ただ、これは施設ごとの使用者がどのように市販後のデータで学習させるかということで考えますと、それぞれの施設ごとでいろいろな性能が変化してしまう。そういうシステムになっていると厄介だと思います。そうした場合の性能変化のための学習の品質確保や責任の所在については解決すべき課題が多いということで、これは基本的な考えを述べるところまでにとどまっておりまして、実際にこういった製品が今後どれくらい出てくるものなのかということについて様子を見ていきたいと考えています。
短いご説明になりましたが、AI画像診断支援システム評価指標というのはこういったところで作られて出されましたので、ご紹介をさせていただきました。
【資料３】
○医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律等の一部を改正する法律案の概要
続いて、改正の概要ということで、医薬品、医療機器等をより安全・迅速・効率的に提供するための、開発から市販後までの制度改善というものを、改正の概要というところに掲げてございます。赤い丸を打っているところ、（4）継続的な改善・改良が行われる医療機器の特性やAI等による技術革新等に適切に対応する医療機器の承認制度の導入と書いてありますが、ここがAIを想定して今回の法改正の中身に盛り込んでいる部分になります。
○特に必要な医療機器の承認制度
ここは必ずしもAIだけというわけではなくて、プログラム医療機器やプログラムを内蔵した医療機器を想定しているということですが、プログラムは承認された後も頻繁にバージョンアップをされる、改善するということが想定されています。
こうした製品の改良計画があらかじめプランされている場合、承認後の変更計画をPACMP（Post-Approval Change Management Protocol）と呼びますが、これを審査の過程であらかじめ確認をして、これに沿って市販後、計画的にデータが収集されて改良されていく場合につきましては、迅速な一部変更承認手続きや軽微変更届、軽微変更届は変更してから一定の期間内に届出を出すという非常に簡素なやり方ですが、これによって改善・改良のプロセスを遅滞なく速やかに進めることが可能になるという考え方でございます。こういうことも今回の法改正案の中に盛り込んでいます。
○特に必要な医療機器の承認制度
こちらはAIを利用したプログラム機器を想定した制度であります。市販後に恒常的に性能が向上する製品、AIはまさしくそうですが、柔軟に承認内容を変更可能とするような制度をここに想定しています。
改良の段階ごとにいちいち手続をするというのは煩瑣なものですから、まず開発段階で性能の向上が基本的に維持されるような改良プロセスを作っていただいて、改良プロセスが妥当であるということについて、承認審査の過程でチェックさせていただきます。承認された後は、性能の変更が行われる前に評価をして、改良プロセスの範囲内であれば、軽微変更届出というもので、性能の迅速な変更を可能にする。今のところこのような考え方にしてございます。この法改正案は、現在国会で審査をいただいているところでございます。
以上、薬事規制におけるAIを利用した医療機器の適切な評価プロセスの策定状況についてご報告をいたしました。
（北野座長）ありがとうございます。質問等ございますでしょうか。
（富原室長）１点だけ補足として申し上げます。先ほど審議官からお話があった評価指標の話に連携する形で、経済産業省と産総研でAMEDの枠組みの下で、評価指標を踏まえて、企業さんとしてはどういう開発をしていくといいのかという技術的評価基準を定めた開発ガイドラインを、まさにこれから最終段階でブラッシュアップしていきたいと思いますので、それもご紹介させてください。
（山内構成員）第３回の会議資料の、現場の導入に向けた課題というのでご質問させていただきましたが、仮想症例の２で、例えば患者さんが来て、胃の内視鏡の判断で、生検の判断でもいいと思うんですけれども、胃の内視鏡の悪性というところの判断基準が変わると、常に臨床の現場で、今は病理医が、ガイドラインがアップデートされたらそれを勉強してアプライするということが医者の責任として行われていますが、アップデートされたことを見落としたら、それは問題だと思うんです。
医者の責任として行われているところをAIで診断までつけることになると、もちろんAIがそこでアップデートされていなければ、AMEDで今やっている研究のように、病理医がそれを知っていれば病理医の最終的な判断で、このAIは診断基準が変わったことができていないから、自分が病理医としてこれをがんと判断することはできると思いますが、将来的にAIだけで診断することになると、その中のアルゴリズムがブラックボックスで、どういうふうに判断されたのか分からないわけです。
病理医対病理医でディスカッションして決めていく場合には、その人も自分と同じような判断基準を使ってがんだと診断していることは分かると思いますが、意思疎通ができないAIの評価を見ていく時に、要するに、病変が新たに変わってきた時に、先ほどの資料の図がありましたけれども、そのアップデートは誰の責任で、どこがどうイニシアチブを取っていくのかということを知りたいと思っています。
例えば、薬の診断とは違うのであれかもしれませんけれども、薬も今、新たな副作用反応が出た時に、緊急アラートという形で情報を医療現場に流しますが、そういう感じで、例えばAIにおけるとか、診断基準が変わったことに関して、製造元が医療現場に必ず流してくれるようないき方になるのか、医療者が常にAIが改良されたかどうかをウオッチしていかなければいけないのか。どのような形になるのか教えていただければと思いました。
（森審議官）AIの中に診断の補助のための、こういう病名が一番考えられますよというのを導き出していくプロセスに、学会が作っている診断のメジャーなクライテリアに大きな変化がありましたということが絡んでいると、おそらく旧基準と新基準ではアウトプットとして出てくるものが違ってくる可能性があるということは想定せざるを得ないと思いますし、古い基準のままでAIが動いている状態ですと、先生がご心配になっているような、頼りないAIになるということは想定しうると思います。
実際そういう組み込み方をしているのかどうかというのは、AIの診断支援プログラムを提供している企業側がアップデートすることは、結果の価値において、大きな変化が出てくる場合は対応していただくのが筋だと思いますし、ソフトウェア系の医療機器というのは、そういうアップデートが速やかにユーザーに対して提供されるというのが生命線になっているのは一般的ではないかと思います。
ただ、診断基準のクライテリアがものすごく細かくなってきていて、微細な部分の条件がちょっと変更になりましたという改訂がこれからどのくらい行われるのかというのは、どういう領域のどういう診断をするガイドラインかによって違ってくることが想定されます。直近のマイナーな基準の変更を病理の先生がすべて覚えておられるというのも、だんだん負荷が重くなってくるのは推察されるところがあって、そうしたことに漏れがないようにサポートするのも、ソフトウェアの１つの役割ではないかと思います。
AIを何のために現場でお使いになるかといったら、人間の知識や記憶に頼る部分で、最新の文献が毎日たくさん出てきて全部網羅しきれないようなものを、機械的に世界中の文献のデータベースを常にサーベイしながらフォローしていくような機能を有するというのも、例えばワトソンという有名なソフトがありますけれども、ああいうもので最新の文献情報を常にウオッチしてアップデートしているという話を聞きしますと、そうしたところで病理の先生の頼りになるところが出てくるのではないか。
重要なアップデートを全部取り入れて、病理医の最終的な判断をする際に提供しきれているのかというのをどうやって保証するかというのが課題だと思いますが、今のところ、どういうものを想定したらいいかというのは、様々想定されるものですから、一般的な考え方として想定されることをお話をさせていただきました。
（北野座長）診断基準が変わった場合には、メーカーからすると、新しい診断基準にトレーニングし直すのは明らかです。旧診断基準で売り続けることはほぼ考えられません。対抗するコンピュータが新診断基準でトレーニングし直したら、皆そちらを買うわけですから、放っておくということはビジネス上ないだろうと思います。どのぐらい早くそれに対応できるかといったことや、新診断基準によるアノテーションがどれだけ迅速に行われるかという問題であり、データのフローがどのぐらい迅速に利用可能になるかということになります。利用可能になれば、当然新しい診断基準適合のソフトウェアのアップデートになりますから、そうでないものはマーケットから撤退することになるというのは、普通のソフトウェアでも同じことだと思います。
あと、ディープラーニングがブラックボックスだというのは言われすぎていると思います。実際に開発の現場で起きていることは、精度が出ない問題があるような学習結果の場合には、なぜそれがうまくいかないのかということと、ディープラーニングの動作の解析に関する研究が進んでいますので、その成果を投入して、どういうデータのアンバランスによるものであるかとか、どういうデータのアノテーションの問題かということを解析することになると思います。実際に、これは先進的な深層学習の開発チームでは、取り組んでいますから、ブラックボックスで何もわからないということではないのが実態だろうと思います。
例えばこういうところを見て、これに反応しているから間違っているとすると、なぜそうなったかというのは、データのバランスの問題であるとか、そういういろいろな解析をしないと精度が上がるチューニングはできてきません。いろいろな方法はあると思いますが、とにかくデータを流して後は何も分かりませんという状況には、今のディープラーニングの学習の開発プロセスはなっていないです。プリファードさんもそうですよね。流して、何もよく分かりませんという開発ではないですよね。
（西川構成員）そうですね。我々は自動運転をやっているわけですけれども、うまくいかなかったデータを解析して、時には車が重なって見えないとか、画面の端にあるから認識できないといった時に、ニューラルネットワークのアーキテクチャーのどの部分を工夫すれば精度が上がるのかという試行錯誤をやっています。全く何も手がかりが得られないとそもそも精度が上げられないので、何が失敗したのかというデータを見ながら、アーキテクチャー特性を理解しながらやっており、完全にブラックボックスということではないです。
（羽鳥構成員）例えば、１万データの良い教師データで製品化されたAI診断器機が、市販された後に、質の高くないデータで上書きされていくと、そのAI診断器機の性能が落ちてしまうはずですが、森さんのほうで何かお考えはあるのでしょうか。
（森審議官）これはむしろ教師付きデータの質の問題で、どうだろうかという話はありうると思いますが、基本的に、どういうふうにしたら製品が改良されたと判定するのかという、そのプロセスがしっかりしているかどうかということにも関わっていると思います。
当然企業の責任において、より良いものを提供していくことを保証しましょうというのが今回の制度の方向性ですので、質の劣るデータを学習させて性能が下がってしまったものを改良と認めてリリースするということを、企業側もされないのではないかと思います。そのプロセスが、しっかりした手順と判定基準で行われることを審査の際に見させていただく。基本的な考え方はそうなっております。
ただ、最後にくっつけている、現場に行ってそこでデータを見ながら、それによって変化するケースという想定で、現場に出ていってちょっと変わったデータを学習させたら、ちょっと変わったキャラクターのAIになるかもしれないという心配は確かにあるでしょうけれども、そのようなやり方を企業の方々は好まれないと伺っています。
一般にバージョンをきちんと管理しながら各現場に責任を持って提供するというやり方をするとなると、現場でそれぞれ違ったデータを学習させて、それ用に育ててしまうやり方で性能変化したものを重要な診断をつける時にお使いになるのはどうかと、皆さんお考えになっていると伺っています。
（羽鳥構成員）それを判定するのは難しいですよね。本当に悪い教師データなのか、良い教師データなのか。そうすると、今までの承認基準とあまり変わらないような気がします。
（北野座長）メーカーサイドの人間は私だけですが、企業はそれをやらせないと思います。そこまで企業は責任を負えないので、やるならクリニックサイドの責任で全部やってくださいというようになると思います。それは改造だと見なされるので、改造されたら企業側に責任はありませんとなるのではないでしょうか。もしそれをやるとすると、そのプロトコル、カスタマイズする手続きを全部踏んでいただいてそれを承認するなど、かなり厳密なプロセスになるのではないかと思います。
（末松構成員）我々の今現在やっているやり方がベストソリューションかどうか分かりませんが、学会主導で行うということは、ある一定期間必要だと考えたのは、さっきのガイドラインのことを含めてということです。
（北野座長）この辺りもフォローアップの分科会であったりワーキンググループを設置しないといけないと思います。
後半は、今までの議論のまとめを行っていきたいと思います。定期的に開催するのはここまでとして、後は要求に応じた開催に切り替えたいと思いますので、後でメンバーの方々にお一人ずつ３分程度でコメントをいただきたいと思います。事務局から今までのまとめの状況などを報告いただければと思います。よろしくお願いします。
（事務局）事務局でございます。
【資料４】
こちらは、これまでの本コンソーシアムにおいて議論いただいた内容を整理したものとなっております。最初に資料の構成についてご説明いたします。全部で52ページございまして、全体を通してのページ番号を資料の右下に記載しております。
最初の５ページまでが本文となっておりまして、６ページからが別添１となっており、こちらは前半での議論、ロードブロック解消に向けた取り組みの資料となっております。少し飛びまして18ページが別添２となっておりまして、こちらは以前の会議でお出ししておりますけれども、領域について全体を整理した俯瞰図となっております。19ページ以降が別添３となっておりまして、こちらが第４回以降の議論をまとめたものとなっております。
説明は１～５ページの本文に沿ってご説明したいと思いますが、適宜後ろの別添もご参照いただければと思います。
○「保健医療分野AI開発加速コンソーシアム」議論の整理（案）
最初に１ページ目の「２．議論の整理」をご覧ください。昨年７月に本コンソーシアムを設置してから本日まで、計８回にわたり議論を行っていただきました。
（１）開発段階に応じたロードブロックごとの迅速に対応すべき事項（P.1）
会議の前半、第２回、第３回では画像診断支援領域におけるAI開発を例に、開発段階に応じたロードブロックについて議論を行っていただきました。例えば、医療機関においてデータを収集する際のIRBやインフォームドコンセントにおける課題から、製品化された後の商品展開、アップデートにおける課題など、開発過程を９つに分類し、それぞれ集中的にご議論いただきました。
例えば①のIRBにつきましては、医療機関において審査を担うAIの専門家が不足していること、また、IRBの間で審査の質が均一でないことなどが課題として取り上げられました。この点につきましては、現行の制度の中でもすでにIRBが他施設の研究を審査することは可能であること、一括審査が可能であることを改めて確認してきました。
２番目のインフォームドコンセントにつきましては、適用される制度、例えば個人情報保護法や倫理指針などを現場にもしっかりと周知していくことが課題として挙げられ、学術研究機関と企業が共同研究などを実施する場合でも、医学系指針の適用範囲となる場合もあること。例えば、オプトアウトによる手続きで実施可能であることなどを、改めて整理、周知してきました。
３番目のアノテーションにつきましては、現場の負担軽減や作業に当たっての専門家のインセンティブを考えながらデータの質を担保していくことが課題とされ、専門医と連携したデータの質の担保や、アノテーションの自動化技術の導入などが期待される領域として議論がなされました。
一方で、ロードブロックの中には既存の枠組みでもすでに対応しているものがあることから、これらの取り組みも活用しつつ、新たに必要な対応を行うことが望ましいと考えられるものもございました。例えば、ロードブロックの④や⑤にあるような、医療情報を扱うに当たってのセキュリティの担保やクラウドの活用などにつきましては、厚生労働省におけるデータヘルス改革推進本部での取り組みや、他省庁で議論が進められているものもございますので、こういったことを踏まえ、引き続き関係省庁間でも情報共有を図りながら対応していくことが望ましいと考えております。
また、本日前半でも議論がございましたが、薬機法における審査のあり方や、評価指標の策定が進められており、また、医師法との関係につきましても整理がなされ、こちらにつきましては第４回の会議で報告、議論のお時間をいただきました。これらの領域についてはAIの技術的進展を見ながら、今後も継続的な議論が必要な領域であるとのご意見をいただいているところです。
さらに、このような公的研究期間が終了した後も、継続的にAI開発などへ活用できるようなエコシステムの構築について検討が必要というご意見がございました。厚生労働省としては引き続き、これら個別のロードブロックについて明確な目標を設定し、取り組んでいく必要があると考えております。
これらの議論につきましては、一度中間整理としてまとめて公表しておりますが、今回の資料４の中でも、６～７ページの別添１の部分に具体的な対応事項をまとめております。
（２）AIの開発・利活用が期待できる分野／領域について（P.3）
こちらは後半の第４～７回の会議で行った内容でございますが、健康・医療・介護・福祉領域において、AIの開発・利活用が期待できる領域について、ご議論いただいたものとなっております。
これまで厚生労働省では、平成29年に開催された「保健医療分野におけるAI活用推進懇談会」にて、AI開発を進めるべきとされた６つの領域を中心に研究開発を進めてまいりました。この６つの領域につきましては、本日お配りしている参考資料２にも記載しておりますので、適宜ご参照ください。
本コンソーシアムでは、先の６領域を中心としつつも、AIの活用が期待される領域について幅広く個別に議論させていただきました。その際、分野全体を整理した俯瞰図を作成しており、これはこれまでも何度か会議に提出してまいりましたが、18ページの別添２の中でもお示ししております。
これまでの議論の中で領域に共通する課題として多くの意見が挙げられたのが、現場の負担軽減に資するようなデータ入力のあり方やカルテの標準化等の課題、また、医療情報を収集したデータ基盤や人材育成、AIの質の担保や評価に関する課題であったかと存じます。
データ基盤については、患者や医療現場の理解を得ながらも、アカデミアや企業が活用しやすい環境が必要であること、医療以外のライフコースデータとの突合が重要であることや、一方で、公的資金によって構築されたデータベースが、研究費が終了した後に維持・管理ができなくなるケースについても、今後の課題であるという意見がございました。
また、人材育成につきましては、保健医療分野におけるAIの開発を進めるに当たり、AIの技術者における医療の教育と、医療関係職種におけるAIの教育の両者がありえるのではないかというご意見と、医療従事者がAIを活用するに当たり、正しく安全に使用するための教育も必要であるというご意見をいただきました。これらの他にも重要な領域として、例えば医療安全などの領域についても取り上げられ、医療事故の防止につながるようなAIの開発・利活用が期待されました。
これまでの議論を踏まえた対応方針を19ページの別添３に示しております。19ページ、20ページには、これまでいただいたご意見を踏まえ具体的な対応方針を示しており、21ページ目以降は、第４回以降の会議でいただいたご意見を内容ごとに事務局で分類し、概要をまとめたものとなっております。
○健康・医療・介護・福祉分野においてAIの開発・利活用を推進するために必要な取り組みに関する対応方針①（P.19）
ここでは内容を３つに分類しております。１つ目の＜Road Blockの議論とも共通する課題＞につきましては、最初に説明しました別添１で示した枠組みの中で併せて検討することとしております。
＜新たに検討が必要な課題＞につきましては、領域横断的な内容として、データ入力、人材育成、電子カルテ、AIの質の担保、評価を掲げております。また、それぞれに対する対応方針を右側の欄にまとめております。例えば人材育成については、医療関係職種を対象とした教育に加え、すでに現場で働いている医療従事者を対象とした社会人向けの教育プログラムの枠組みについても検討していくことを考えております。
また、議論の中では分野特有のご意見もたくさんいただいており、こちらは３つ目の＜分野特有の課題＞としてまとめております。例えばがんゲノムや医薬品開発など、これまで研究開発を進めてきた領域に加え、新たにご議論いただいた、例えば医療安全や予防領域のような領域につきましても、それぞれ対応方針をまとめております。
○３．今後の方向性（P.5）
最後に今後の方針についてご説明いたします。５ページにお戻りください。今後の健康・医療・介護・福祉領域においてAIの開発・利活用を推進するためには、国内外の最新の動向を着実に把握しながら、各領域におけるロードブロックを把握しつつ、継続的に検討することが必要ではないかと考えております。また、これまで洗い出された個別の課題についても集中的に議論をしていく必要があると考えております。
そのため、今後は本コンソーシアムの下に例えばワーキングのようなものを設置し、継続的な情報収集と進捗状況の確認等を行う体制を作り、本コンソーシアムの下で引き続き検討を行うことが必要ではないかと考えております。
なお、本日の資料には記載しておりませんが、本コンソーシアムの議論につきましては、現在政府内で策定中の「AI戦略2019」においても関連する内容が盛り込まれる予定となっており、引き続き政府全体の枠組みとも連携しながら、AIの推進を行っていくことを予定しております。
以上、本コンソーシアムにおける１年間の議論の取りまとめ案でございますが、全体を通して追加のご意見や、今後さらにAI開発を加速するための検討を進めていく際、留意すべき事項等について、ご意見をいただきたいと考えております。説明は以上でございます。
（北野座長）これが今まで８回の議論の１つのまとめで、もちろんすべての課題が解決したとか、方向性が全部出たわけではありません。できるだけ網羅的にはやっていますが、漏れがないというわけではもちろんないので、そういうものがあった場合、今後順次対応していくことになるとは思います。
今までの議論のまとめとして、これから具体的な技術的な議論であるとか、詰めた議論の場が設定されます。また、議論する必要があれば本会議が招集されることになると思いますが、今日は１つのまとめになりますので、各メンバーの方から３分程度を目安にコメントをいただければと思います。
（羽鳥構成員）８回、おもしろい議論だったと思います。日本医師会構成員は、病院の方もいらっしゃるし、診療所の方も多いわけですけれども、そういうところで出てくる日常の臨床データを収集する仕組みを速やかに作ってほしいと思います。
電子カルテが標準化されればもちろんいいでしょうし、SS-MIXとかいろんな手法があると思いますけれども、診療所のデータは今は全く野放し状態で、患者さんに何か事件があった時に、ちゃんとやっていたという言い訳をカルテに書いているだけですが、そうではなくて、血圧の値とか、ヘモグロビンA1cの値とか、体重とか、基本的なデータが取り込めるような仕組みをぜひ作っていただけたらと思います。
それから、医療の分野については末松先生がすばらしい提言をされていますが、４回目、５回目にやりました予防とか介護の分野については、個人で扱えるデータをきちんと取れるようになるということもとても大事だと思うので、その２点をぜひお願いしたいと思います。
もう１つは、これからAIがもっと進んで、量子コンピュータのような時代が来て、AIの診断のほうがはるかに人間の診断より正しい、命を長らえるにはAIのほうが正しいということがあるかもしれません。前も例を出しましたけれども、例えば飛行機が正面衝突しそうになった時は、パイロットの判断に任せるよりコンピュータが判断して、上へ行く、下へ行くという条件を決めているのと同じように、もしかしたらそういう時代が来るかもしれません。ただ、そういう時に医師はどうやって判断したらいいのか、その辺のこともこれから提言していかなければいけないと思います。
（保科構成員）本コンソーシアムに参画させていただき、ありがとうございます。これまでの会議に参加させていただいて思うところは、いろいろ議論は出ていますけれども、質と量を備えたデータがあれば、かつ、それに対する適切なアクセス環境があれば、様々な研究進展に加えて、優れたサービスを作る事業者が現われてくるだろうと思っています。
ただ、その時に、シングルソースではなくて、様々なデータをつなげて、それを活用できることが重要だと思っています。そうなってくると、より安心してデータを預けるにはプライバシーの配慮が大事だろう。一方で、そこばかり心配しても、個人の異なる種類の医療データをつなげて見られるということは、個人、患者にとっても非常に意味があることだし、AI開発にとっても意義が大きいと思うので、そこはぜひ進めるべきだし、データの種類を広げてアルゴリズムに学習させるということは新たな知見を得るチャンスだと思うので、そこは進めていきたい。そういった意味では、今まで話に出てきたところでもありますけれども、今日お話にあったダイレクトな医療データもそうですし、日々の生活データも含めて、横串で分析できる基盤作りというのは重要なのかなと感じています。
あと、AIは非常に進化が激しい分野なので、継続的に技術進歩を追うことが重要だと思っていて、そういった意味では、本コンソーシアムで何か方針を決めて終わりというものではないと思っています。AIシステムは作ってからが勝負というところがあります。例えばよくお話を伺いますけれども、研究予算がついていったん作ったけれども維持できない。それは一番避けなければならないと思っています。
そういった意味では、インセンティブ設計のお話を私もさせていただきましたが、インセンティブ設計も重要で、例えば臨床情報は非常に重要ですけれども、医療機関さんから見たインセンティブとは何かというところも考えなければいけないし、継続的にデータが集まって、それを広く活用できる基盤作りが重要なのかなと。開発されたAIサービスが利益を生んだ場合、データを提供した人もそうだし、アルゴリズムの開発企業もそうだし、それに関わったすべての人がメリットを得られるような形にしていくという枠組みが重要なのかなと感じています。
（赤塚構成員代理）私は代理として途中から参加させていただきましたが、医薬品の研究開発という観点で、改めて臨床情報といいますか、医療情報が重要であることを発信させていただきたいと思います。
その際に精度を確保していくことが重要になりますが、データの入力や電子カルテの標準化等、医療現場の先生方からたくさんコメントをいただきました。今年出させていただいた政策提言の中にもありますが、カルテの入力の省力化であるとか、データクリーニングであるとか、医療現場のAIというのを、国も含めて推進していただきたいと考えております。
標準化に関しては、昨今、医療情報化支援基金が設立されるということで、我々としては標準化が推進されるものと強く期待しておりますので、ぜひよろしくお願いします。
あとは、データのC-CATを含めて、がんの領域で取り組みが進んでいますが、非常にいい取り組みだと思いますので、ぜひこれも完成させて、成功させていただきたいと思っています。そして、それらを他の疾患にも拡大していくことを望んでおります。その際、先ほどからもコメントがありましたが、画像データに加えてPHR、医療データ以外も迅速に収集できて、活用できるような仕組み、体制を整備することが望ましいと考えます。
最後になりますけれども、創薬には、いろいろなステークホルダーの方が関与しています。その時に取得されたデータの集合体、データセット等々を使って得られた成果の帰属、知財権等々が企業活動を進める上では重要になってくるということで、特に使用させていただいた時の使用料等の設定が、今後企業として使わせていただいて、成果を上げて患者さんにフィードバックしていくためには重要な視点かなと感じております。
（山内構成員）私は臨床家として日々患者さんといる立場として、どうしても臨床の現場でどういうことが起こるだろうということを考えてしまい、会議でたくさん発言をさせていただきましたが、私自身、AIというものが非常に医療の進歩と、患者さんに恩恵があると思っています。人間の能力ではできない部分を、AIを使って多くのデータを解析して、それを患者さんにフィードバックできる医療というものは、患者さんにとって非常にすばらしいものになるということは重々理解をしているつもりです。
反対に、それは分かっていながら、制度が整っていなかったり、いろんなことのシステムがちゃんとしていないが故に、例えば誤診になったり、患者さんにリスクが及ぶことが決して起こらないようにしていくのが、こういった場とか私どもの役目だと思っております。参加をさせていただいて、いろんな意味で非常に勉強になりましたので、そういった点を今後皆さんで継続的に、せっかく患者さんの恩恵になるものなので、それによってリスクにならないということを、バランスを持って引き続き考えていただきたいと切に思います。
もう１点は、先程来ありますように、患者さんたちがAIの開発のためにデータを提供してくれるような理解とか、AIを用いた医療診断に抵抗を示さないような、医者の診断よりもAIを使うほうがあなたたちにとっては正確なんですよというような啓発とか、そういった社会の理解というものも、同時に進めていくことが必要だと臨床の現場にいて痛感しております。
会を通して臨床の現場でどうするだろうということを常に、AIの専門の方々からしてみれば、なんでそんなことを思うんだろうというプリミティブな意見だったかもしれませんが、臨床の現場で使うということで、どう思うかということでいろいろと発言させていただいて、もし失礼がありましたら申し訳ございません。ありがとうございました。
（渡部構成員）１年間、非常に網羅性のあるご議論、様々なテーマについて議論ができて、大変有意義だったと思っております。特にこれまでのAI分野と違うのは、社会実装されていく、医療の課題解決に寄与していくということで、これから先に進んでいくことを本当に期待しております。
ワーキンググループで今後も継続していただきたいと思いますが、それは政策的に環境を整えていくという位置付けになってくるということで、国がAI原則を作って、教育プログラムを作って、戦略を作っていく中で、ぜひ健康医療というのをど真ん中に位置付けて進めていただきたいと期待をしています。
それから、医療サイド、民間産業界がこれの担い手になるわけでありますけれども、産業界の立場で言うと、オープンイノベーションをもっと進めていかないといけないという認識を持っています。製薬は非常にそれが進んでいて、例えばLINKでは低分子の創薬をやっていこうということで、110の会社が入って進めていますが、医療機器はなかなかそのレベルに来てないということで問題意識は持っています。ですから、今日末松先生からお話があったような、協調領域、共通の基盤を作っていくような取り組みは非常に意味があるのではないかと思っています。
もう１つが、スタートアップも非常に大きな役割を果たすということで、今、経産省の統計でいうと大学発ベンチャーは3,000ぐらいありますけれども、その中の30％がAIで、30％がファーマ、メドテック。まさにこの領域にエネルギーが向かっているということで、そういったところもオープンイノベーションの中で役割を果たしてもらいたいと思っています。
もう１つは、山内先生のほうからお話がありましたけれども、データの知財の取扱いというのが非常に大きなテーマだと思っています。今、情報銀行で、GAFAにスポットライトが当たっていますが、医療秘密を守るというこれまでのスキームでは通用しない、共有財としての側面というのがありますので、社会の共有財としての意味合いをどうコンセンサスにしていくかということ。特に医療情報という機微な情報の問題で、これは非常に足が長いと思いますけれども、ぜひここにしっかりと取り組んでいただきたいと思っています。
（西川構成員）この１年間の議論を通じていろいろ課題が明らかになって、包括的な議論ができたというのは本当にすばらしいことであると思います。
こういった課題を確実に解決していかなければいけないわけですけれども、そのための大きな課題が、１つは人材のところかなと。私たちも今、医療分野に取り組んでおりますけれども、例えばロボットその他の分野に比べて、ライフサイエンスとAIをかけ合わせることのできる人材が不足しているのは事実でございます。ここにどうやって力を入れていくのかというのは、この課題を解決していく上でも非常に重要なところだと思います。そういった意味では、教育プログラムができていくというのはすばらしいことだと思います。
一方で、AIを知ることによって、どうやって活用すればいいのかという最初のフェーズはクリアすることができると思いますが、それを実用化していく上では、AIだけではないコンピュータサイエンスの技術も知っていく必要があります。例えば、ゲノムのデータでも、医療のデータでも、たくさんのデータを効率的に処理できないと、精度は出せても実際は学習が終わらないだとか、そういうことが容易に生じてしまう。
そういった意味では、コンピュータサイエンスのいろいろな分野、ライフサイエンス、医療分野の様々な専門家がお互いに協力をする必要がある。その時に、１人ですべてを知るということは難しいので、どうやって協調することができるのかという方法を知る。チームとしてどうやって生産性を上げていくのかというのを習得できるような場所が、今後は必要になってくるのではないかと思います。
あと、AIの分野は今まさに発展している分野で、先ほどのブラックボックスの議論もありますけれども、どんどん新しい手法が出てきて、挙動というのも分かりつつある。そういった時に、１回教育して終わりではなくて、それをアップデートし続ける仕組みが必要になってくるだろうと。単発で、要は対処療法的に１回やって教育を受けるというだけではなくて、それを継続的にアップデートし続ける仕組みが必要になってくるのではないか。
もう１点は、今、社会人向けの教育プログラムというのが、直近で非常に重要なところだと思いますけれども、人材はまだまだ不足しています。例えばAIの人材とか、大学生になると専門分野が分かれてしまっていて、お互いの分野の壁を取っ払って知る機会が少なくなってしまう。それは大きな問題だと感じています。
社会人からの教育というのは重要だと思うんですけれども、できれば、大学生ないしは中学生、小学生の段階から、ライフサイエンスとAIをかけ合わせることによってどのようなインパクトが起こせるのかという、そういった可能性を感じさせるようなプログラムが今後必要になってくるのではないか。人材の層が厚くなっていくことによって、こういった課題解決も確実に行えるようになるのではないかと思っています。
（豊田構成員）私はこの分野に関して全くのど素人なので、この議論についていくのが本当に大変でした。正直、動画の部分以外は本当についていくのが難しかったんですけれども、動画でいろいろ見せていただいた時に、ここまでいろいろ考えられていたことを知ったのと、一般の人はAIがここまで医療の中に入り込んでいくということを、まだまだ想像できていないと思いました。私自身、驚きながら動画を見ましたし、国民の皆さんも同じような感覚だと思いますので、この開発と同時に、国民に受け入れていただくための知らせる術を早急に考えていかないと、実際に利用する人たちがついていけないのは困ると思いました。
私は患者家族の立場としてこのコンソーシアムに参加させていただきましたが、医療者の皆さんが起こしたくて起こしているわけではない医療事故が実際に起きている現状を踏まえ、実際に事故に遭った遺族の立場としても考えたのは、やはり患者としては安心で安全な医療を求めますので、AIによっていかにそれがよい方向に向くかというところに一番関心がありますし、山内先生と山本先生が何度もおっしゃっているように、それがよい方向に向かわないと、むしろ医療安全上のリスクになってしまったら大変だということで私も強調して発言しましたが、そこは実際に医療現場の皆さんも心配されていることだと思いますので、ぜひそういった医療現場の課題や懸念事項をしっかり把握していただき、さらに新たなワーキングを作っていただいた際には、我々患者や家族、国民の疑問や懸念事項なども聞いていただきながら、より良いものを作っていただきたいと思いました。
個人情報の問題も、これから様々出てくると思いますけれども、ここで議論されたことや、他の会議でもいろいろ話し合われて、この間に課題が把握できてきたと思いますので、ぜひそれらを持ち寄ってより良い医療の実現に向けて進んでいっていただきたいですし、これから私たちもこの分野を注視し、ともに築いていけたらと思いました。いろいろ詳しいご説明をありがとうございました。大変勉強になりました。
（市川構成員代理）メンバーの辻井がほとんど出られず申し訳ございません。まずは事務局に対しまして、非常に幅広い分野をまとめていただいたことに感謝いたします。
全体のところでいうと、今後の課題がたくさん挙げられておりますが、一方、技術もどんどん変わっていくということを踏まえると、次にどういうアクションプランを立ててやっていくのかということを、継続的に検討を進めていくことが必要ではないかと思っています。
その上で、まず、AIの開発をやっている立場から見ておりますと、全体的には、特に最近のはやりの分野である機械学習というのは、データを集めてきて、それでAIを作り、そして特に医療分野では、そのAIの品質を評価していくかというのが基本になっています。このうち、データについては、今日も話がありましたけれども、日本は、他の世界各国と比べると、課題はたくさんありつつも、進んでいる分野ではないかなと思います。
その際、この日本の強みを、製品などの競争力の強化に反映していくという観点からは、１人の研究者だけでいかにデータを使うかを検討するかだけでは不十分だと思います。特に、今の機械学習の技術というのは、単にプログラムなりアルゴリズムをいじるだけではなくて、データ元をこういうふうに変更したほうがいいだろうというような、データとアルゴリズムの両方の検討を相互でやりとりすることによって、より精度の高い仕組みをどう作っていくかということが重要なことに留意する必要があります。ただし、さはさりとて、そういったデータの面を日本としては強みにしていかないといけない中で、世界的にどうデータを扱っていくかということが今後議論になってくるのかなと思います。
２点目は品質のところでございます。AIそのもの、特に機械学習の品質をどう評価するかという話と、今まで議論なさっているように、それを含んだ医療機器の評価をどうするかという２つの議論があると思います。AIの開発をしている立場からいうと、前者のところの技術とか、国際標準化を含めてやっていく必要があるのかなと思っています。
３点目、今回の全体の議論で、AIの議論というのは、機械学習を使って専門家の知見を覚えさせて、医者を超えるような判断ができるAIを開発するという話をしておりますけれども、今後はそれで終わらないと我々は理解しています。というのは、それが完全なAIが開発されてしまったら、お医者さんはいらなくなるのかということになるが、実際には、絶対にそうはならない。世の中の医療というのはまだまだ進化していかなければならず、そのためには医者が、今まで見つかっていなかった病気、あるいは原因を、データを見ながら判断し、新たなことに取り組む作業は引き続き必要であって、そのために、そういうことについて医者を助けるようなAIも出てくるのではないかと思っています。今後はそういうことも視野に入れながら、医療とAIの関係を議論していったらいいのではないかと思っています。
（田辺構成員）８回もやったのかというぐらいあっという間に様々な議論がなされまして、各方面の先生方、レギュラーの構成員の方々以外にも、ゲストの先生方にいろいろご示唆をいただきまして、非常に充実した会だったなと個人的には感じております。
一方で、ブレストのようにいろいろな領域の先生方がお見えになって、こういう状況です、こういう問題・課題がありますということが、ざっとお店が広がったような状態になっています。ただ、事務局様、座長の先生ときれいに取りまとめていただいていますけれども、今後ワーキングをもって、個別に、具体的に今後、それに対してどうしたらいいかという話はこれからなのかなと。逆に言うと、どこへ進んでいけばいいかというある程度の方向性が見えてきたところは非常にすばらしかったと感じております。
１つ感想ですけれども、AMEDの事業を拝見して、ITの立場からセキュリティの面で医療関係の方のお話を伺っていて、一部適切ではないかもしれませんが、ある意味風評被害のようなところがございました。例えばパブリッククラウドは危ないから使わないほうがいいのではないか。データセンターに自分たちの環境を作って、それを仮想環境にして、それをプライベートのクラウド環境ですといって使っていたり。そういう意味で、クラウドという言葉もふわふわと１人歩きをしていて、クラウド＝危ないから使ってはいけませんと。そういうところで、正しくリスクを把握して、正しく恐れて正しく対策をするというのが、今後必要になってくるのではないかなと思います。
その時に、目に見えないものや漠然としたものに対する恐れというのは、どんどん大きく、勝手に想像して怖がってしまいますので、例えばセキュリティが危ないというのであれば、どこのポイントが危ないのかというのを明確にして、使うためにはどうしたらいいのかということを具体的に対策を考えていく。例えば、正しい人がアクセスしているのかという認証をどうやってするのか。例えばドクターが持っているHPKIを使うとか、個々人を正しく認証するためにどうしたらいいのか。それから、ネットワーク環境も、完全に専用線にしてしまうとコストがかかるので、どの程度のバーチャルのプライベートのネットワークを引けばいいのか。恐れるべきポイントを明確にして、それに対して対策を打っていくことで、風評被害のようなものを払拭していく必要がある。
もう１つ、風評被害を払拭するという意味で言いますと、豊田構成員からもお話がありましたが、こういう分野に全く触れていない方々、情報に触れていない方というのは、それこそなんだか分からない。言葉だけが１人歩きをしていて、突然AIが私の病状を判定してしまうのではないか。それだけはやめてほしいという方もいらっしゃると思いますが、そうではないということを、丁寧に繰り返し説明をしていく必要があると思います。
いわゆる行政の堅い言葉で言うと、説明責任を果たすということになると思いますが、どういうものを作りました。こういう形でメリットがあります。逆に、こういうところはご留意くださいというところを正しく理解していただくことで、必要以上に恐れてしまって風評被害めいたことがないように、丁寧な説明を繰り返ししていく必要があると感じています。
いずれにしましても、今回様々な課題が明確になりましたので、今後は具体的なところまで突っ込んでいけるように、個別のワーキングということで、そちらのほうにも期待していきたいと思います。ありがとうございました。
（末松構成員）立場的にはAMEDはクラウド化を推進している側でございます。誤解のないようによろしくお願いします。手短に３点申し上げたいと思います。
すでに他の委員の先生方からもご指摘があったことですけれども、渡部委員からご指摘のあった、プライベートセクターと協力して非競争領域でオープンイノベーションをやるというのは、現存のルールだけではワークしていないと思っていまして、そこをなんとかしなければいけないというのは間違いないと思います。
もう１つ、事務局のほうで取りまとめていただいた資料４ですけれども、大変な労力だったと思います。この中で、ゲノムのことについて１つだけ指摘させていただきたいのは、AIに食べさせる情報としてゲノムをどう考えるかということですが、AMEDにいろんな研究者の方が応募してくるものを見ていると、がんだけではなくて、もちろん網羅的にいっていないと先ほど説明ありましたけれども、がんの領域と難病の領域はAIを使って診断を正確に早くしようということを本気になってやっている先生方が結構いらっしゃいます。ファクトデータとして、AIにこれから食べさせようとしているデータがどうなっているのかということを、簡単な例だけお話しします。
今日のお話ですと、いいデータで学習していくとどんどん頭がよくなる。画像ではそういうことがあるのかもしれませんけれども、難病領域ではそうではないことがままあります。例えば心筋症という病気があります。病的な変異情報が、５年前は病的でない変異だったものが突然病的になったり、また５年たつとそれが病的ではなくなったりということが、日常茶飯事とは言いませんけれども、データベースの中では実際に起きています。これは時系列的に増えていくデータに基づき、専門の臨床ゲノム研究者が実臨床と平行して研究をしていく過程があってこそ成立することです。経験値が積まれていくと一方的に性能がよくなるわけではないということを申し上げておきたいと思います。
２番目ですけれども、ゲノムに関して実際のデータを見て、こんなに違うということが１つあるのは、エスニシティの問題です。東北メディカル・メガバンクで集積したデータから、レアバリアント、めったにない変異情報を見ると、アングロサクソンとは全く違う、同じ生物種かと思うぐらい違うということがはっきり出ています。それから、アメリカの難病も含めたバリアントのデータベースに、臨床情報がある程度くっついているClinVarというデータベースがあります。
このClinVarというデータベースに対応している、AMEDで作っていただいたIRUD Exchangeの間のベン図を作ってやると、６割の症例の持つ病的変異はClinVarには収載されていません。つまり、日本人、あるいはアジア人かも分かりませんが、完全に乖離しているということであります。つまり、教師データの選び方がグローバルに、ユニフォームになるということも本当かどうか分かりません。
３番目、先ほど羽鳥先生からご指摘があったことと関係しますが、我々はIRUD Exchange、今１万人ぐらいのエクソン情報と、それから臨床情報、つまり、どんな症状が出たかという、その集積データがあります。これを利用してAIを使ってもっと早く診断をできるようという試みがあります。ここではっきり分かったことは、大元のデータの第１発見者は大学の医学部の病院ではなく、全体の７割５分ぐらいが一般の臨床科の先生、あるいは地域の中核病院の先生からの情報が発端で、それが大学病院に紹介されてゲノムの解析に入っている。そういうことが430ほどの病院でネットワーキングできたので可能になりました。それは学会が今までフォローできていなかった部分です。一般の臨床科の先生方の正確な診断の目があったから、そういう情報が集まったのです。
（北野座長）ありがとうございました。その他のご出席の方からコメント等はございますか。
（葛西技術参与）感想ですが、この分野をやっていておもしろいのが、人間並みのコンピュータが認識をするという旅は、僕の感覚からすると４年前ぐらいから始まった旅だなと思っていまして、そのころ私も実はAIはブラックボックスだと思っていました。自分がやるようになって、実はブラックボックスではないなと思っているまだ旅の途中で、最近ですと汎用AIであるとか、昔、強いAIなんていう言い方をしていましたが、我々が分からないAIもこれから出てくるでしょう。そうした時に、私がこの分野をやっていて感じたのが、どうも１人で歩く旅としては無理だなと。メディカルドクターの方の意見であったり、ゲノムの解析者の方だったり、データサイエンスの方だったり、私はエンジニアですが、いろんな人と一緒になって歩かいとこの旅はこなせないということを、感覚として思っております。
その時に、まず１つが社会認識。分からないものに対する不安がたくさんある。一緒に旅をしようとすると、知らない人ですから、私もまだここでも知らない方がいるんですけれども、バウンダリーを感じたりします。コンピュータに我々人間は試されていまして、もっと優しく寛容になって、この旅をこなさないとまずい。いろんな人と会話をしていかければいけない。社会認識として受け入れるというか、分からないから嫌だということではなくて、何が分からないのかということを認識して、その問題を１個ずつ解決することが大事だと思っています。
では、順番にアクションとして何をやりますかというと、私が不安なのは、人工知能の質の問題です。いろんなところでいろんな方とお話しさせていただいて、主観的に評価をして研究されている方が多いなと。客観的な評価指標を用いる必要があるというのが１つ目です。
２つ目は、私はパブリッククラウドだけが好きではなくて、実は全ゲノム解析をやろうとすると、深度によってパブリッククラウドでできるところと、そうでないところがあります。オンプレミスなスパコンでないとできない部分もあります。我々が道具を識別して使っていかないといけないというのが２点目です。
３点目が、諸外国がやっている事例を、同じように追いかけていくのはあまり意味がないのではないかと思っています。１つは日本独特の文化として、例えば診療報酬の制度も、いわゆるテーブル法ではなく、プログラム法で包括になっていたりします。実は医療の世界は日本の独自性を持っている部分が多々ありまして、それが非常に良い。私自身は腎臓移植をしていまして、臨床の先生にたくさんお世話になって、これだから日本の医療はすごく進んでいるんだなと感じる場面がたくさんあるので、それを潰さないようなAIの開発を目指さなければいけない。
どうも研究者だったり、私自身、開発者もそうですけれども、海外でやったことのものまねをやり始める。これはよくない。日本人自身が考えた保健医療AIのあり方を、研究であったり、臨床であったり、もちろんケアであったり、介護だったり、あらゆる場面で作っていかないといけないと感じました。
（北野座長）それでは、米田副座長から総論も含めてコメントをいただければと思います。
（米田副座長）この会でいろんな方々のご意見を聞くことができて、課題もたくさん理解させていただいて非常に勉強になりました。先ほど座長から、最後うまくまとめるようにと言われましたが、全体をまとめる能力は私には全くありませんので、最後に水谷専門官が言われた今後の方向性に関して、ひと言だけ意見を述べさせていただければと思います。
健康医療の世界にAIを持ち込むことがなぜ必要か、何が一番メリットかと考えた時に、個別最適化を目指すというのが１つの方向性ではないかと思っています。私は重点６領域の中の医薬品開発のところでお話しさせていただきましたけれども、医薬品開発に関しましては、もちろんAIを使ってこれからどんな医薬品が出てくるか楽しみですけれども、良い薬ができたとした時に、それが本当にその人に効くか、効かないか。ものすごくよく効く人もあれば、効かない人もあるということになっていくと思います。
その時に、これまでの医学は、「個人差ですから」といって逃げてきました。個人差があるという説明は間違いではありません。個人差があるので、効く人もあれば、効かい人もある。だけどこれからは、AIを使うことによって、いろんなデータを使って、本当にその人に効くのか、効かいのか、個人差とはいったい何なのかということを理解していくことが大事ではないかと思っています。
例えば、その薬が効くか効かないかというのは、その薬だけの問題ではなくて、その人がいったい何を食べているのか、どういう栄養を取っているのか、どんな時間に寝ているのか、そういったものもすべて含めてその人を理解しないと、薬が本当に効くか、効かないか、どんな投与量が最適なのかということも含めて、個別で最適な医療をするためにAIというのは活用されるべきではないかと思っております。今後厚労省も含めていろんなところで議論されるのではないかと思いますが、そういうことを意見として言わせていただきます。
（北野座長）この会議はこれで解散ではなく、いったんまとめをして、これから実行フェーズに入りますので、もう少し各論を議論するワーキンググループなり、タスクフォースを作っていくということで、皆さん、引き続きご協力お願いいたします。
今回いろいろな立場の方がいらして、マルチステークホルダーのミーティングだったと思います。それが如実に反映されて非常によかったと思います。それを反映した形で、今日いただいたご意見等も入れて、まとめの文案を作っていきます。それと同時に、繰り返しになりますが、これはあくまで論点の整理とある程度の方向性が出たまでで、これから実装に入っていきますので、これからが大変なところになっていくと思います。
これは政府のAI戦略とももちろん連動していきます。AI戦略は私もかなり関わって作りましたが、戦略目標としては４つ大きな目標を掲げています。１つは人材です。これは文理問わず、数理、データサイエンス、AIのリテラシーが分かっているというところと、実際にAIを応用して使っていくところになります。AIシステムの開発はAIのことだけを分かっていても全然できなくて、医療のことが分かっていてAIも分かっている必要があります。また、介護のことも分かっていてAIも分かっているといった複合分野の人材をどんどん育てていくという、非常に大きな方針を出しました。
一部新聞では、AI研究者は25万人と出ていますが、研究者だけだったらそんなに必要なく、25万人は実装する人も含めます。若干その数字が１人歩きしていますが、かなりのスケールの教育の変更がこれから行われてくると思います。これは文科省さんのほうで相当汗をかいていただいていますし、エンジニアのリカレント教育、社会人のリカレント教育では、経産省さんのほうともタッグを組んだ形で相当なことが行われることになります。
２つ目の戦略目標は国際競争力になります。AIを使って非常に競争力のある産業、または、社会システムに変えていくということが重要になります。
３つ目がインクルージョンで、AIは何かというと、多様な背景を持って、多様なライフスタイルを追求する人がそれを実現してもらうための技術であって、AIがあるがために人が排除されるのではないという方向で、いろいろなところにこれから政策が打ち出されると思います。現状はそこが弱いです。これをあえて掲げているのは、これが１つのあり方であって、掲げることによってそういう議論をこれからさらに深めていって、実際の政策に落とし込みたいと思っています。
４つ目が国際的なリーダーシップを取るということです。これは医療に関しても非常に重要で、先ほど末松先生からあったように、民族性の問題が非常にあります。アメリカ、ヨーロッパで、白人中心のデータになっていますから、そのデータを我々がもらってきてそのままフォローすれば良いという話には全くなりません。
そうすると、アジアを中心としたエスニックグループに関して、日本がどれだけイニシアチブを発揮できるか。アジア各国といっても多様性がありますから、そういうところも含めて我々はどうやって国際的なリーダーシップを発揮していくのか。日本の医療健康関係のリーダーシップが問われることになるので、そういうことも重要なポイントになるのではないかと思っています。
いろいろな施策を連動しながら、これから実際に実装に入っていくことになりますので、各先生方、いろいろお声をかけさせていただいて、そして、まとまった段階で、またこの場でマルチステークホルダーの議論が再開されたり、要求に応じてご意見をいただくことがあると思います。
また、追加のご意見はメールでいただければ、今の段階のまとめに反映させていただきたいと思います。８回、ありがとうございました。事務局から何かありますか。
（事務局）本日はご議論いただきましてありがとうございました。念のため、次回、予備日を取らせていただいておりましたけれども、一定程度ご議論いただけたという前提で、本日をいったんの区切りとしまして、予備日の開催はないということで確認をさせていただきたいと思っております。事務局からは以上でございます。
（北野座長）ありがとうございました。事務局でかなり力を入れてまとめていただきましたので、予備日はなしということでお願いします。これから実装に入りますので、またよろしくお願いします。ひとまずここまでの８回の議論、先生方、ありがとうございました。
