ホーム> 政策について> 審議会・研究会等> 厚生科学課が実施する検討会等> 保健医療分野AI開発加速コンソーシアム> 第２回　保健医療分野AI開発加速コンソーシアム　議事録

第２回　保健医療分野AI開発加速コンソーシアム　議事録

○　日時　平成30年９月27日（木）　14:00～16:00

○　場所　TKP東京駅大手町カンファレンスセンター（ホール22G）
○　出席者（50音順）
（構成員）◎北野構成員、田辺構成員、豊田構成員、羽鳥構成員、保科構成員、堀川構成員、宮田構成員、山内構成員、山本構成員、○米田構成員（◎は座長、○は副座長）
（代理人）市川構成員代理（辻井構成員の代理出席）、井本構成員代理（末松構成員の代理出席）、齊藤構成員代理（西川構成員の代理出席）、久芳構成員代理（渡部構成員の代理出席）
（オブザーバー）岡企画官、西川課長、藤本次長、村嶋技術参与

○　議題
　（１）開会
　（２）議事
　　　［１］「Road Block」に関する考え方
　　　　　●（ア）「(1)IRB、(2)Informed Consent、(3)アノテーション／ラベリング」
　　　　　●（イ）「(7)PMDA審査／薬事承認」
　　　［２］その他
　（３）閉会

○　配布資料
資料１　Road Block解消に関する座長メモ（Ⅰ）（北野構成員提出資料）
資料２　今後のAI基盤の運用における課題と展望（宮田構成員提出資料）
資料３　アノテーションに関する考え方（案）
資料４　ＡＩ技術を利用した医療機器の医薬品医療機器法上の取扱にかかる対応について
参考資料１　保健医療分野ＡＩ開発加速コンソーシアム　開催要領
参考資料２　「Road Block」に対する構成員からのご意見
参考資料３　前回会議資料の抜粋
参考資料４　「保健医療分野ＡＩ開発加速コンソーシアム」議論の進め方（案）

○　議事
（事務局）ただいまから第２回コンソーシアムを開催させていただきます。私、７月31日付けで着任しました中田と申します。よろしくお願いいたします。
本日の出欠状況につきましてご報告申し上げます。本日は松尾構成員、間野構成員より欠席とのご連絡をいただいております。また、本日ご欠席の構成員の代理出席でございます。日本医療研究開発機構末松構成員の代理として井本部長にご出席いただいております。また、産業技術総合研究所研究センター長　辻井構成員の代理として市川副センター長にご出席いただいております。また、Preferred Networks　西川構成員の代理としてビジネス開発部門の齊藤様にご出席いただいております。また、日本医療機器産業連合会　渡部構成員の代理といたしまして久芳常務理事にご出席いただいております。どうぞよろしくお願いいたします。
また、本日はオブザーバーといたしまして、内閣官房健康医療戦略室　藤本次長にご出席いただいております。また、個人情報保護委員会事務局でございます岡企画官にご出席いただいております。また、経済産業省　商務・サービスグループヘルスケア産業課の西川課長にご出席いただいております。また、データヘルス改革推進本部ワーキングチームの村嶋技術参与にご出席いただいております。どうぞよろしくお願いいたします。また、事務局につきましては記載のとおりでございますので、個々の紹介は割愛させていただきます。カメラ撮りにつきましては、ここまでとさせていただきたいと思います。
それでは、以降の議事進行につきまして、座長にお願いしたいと思います。
（北野座長）まず、資料の確認を事務局のほうからお願いします。
（事務局）お手元の資料をご確認いただきたいと思います。本日、配付資料といたしまして資料１から資料４がございます。資料１は北野構成員提出資料、資料２は宮田構成員提出資料、資料３は厚生科学課提出資料、資料４は医薬・生活衛生局提出資料でございます。また、参考資料の１～４をお手元に配布させていただいております。
今回、特に参考資料の４をご覧いただきたいと思うのですが、今後のスケジュールといたしまして、第２回の本日は、先日座長からお示しいただきました「Road Block」、論点整理の１、２、３、７、この点につきまして議論させていただきまして、次回以降４～９、中間とりまとめを経まして、年度末に取りまとめというスケジュールで、今、検討をしております。
また、参考資料２につきましては、前回の会議以降に構成員の皆様からいただきました意見を紙面にてまとめさせていただいております。適宜こちらもご参照いただきながらご議論をいただければと思います。以上でございます。
（北野座長）ありがとうございます。それでは、資料を順番に説明し、それから議論に入りたいと思います。
まず、資料１ですが、私のほうで今回作らせていただいたメモになります。前回の会議でIRB、倫理委員会の話と、インフォームドコンセント、アノテーション、ラベリングをどうするかということが非常に大きな議論になりました。ここで、たたき台としてご提示させていただきます。もちろん、これでうまくいくのか、このアイデアで進んだ場合にまた違う問題が出てくるかなど、当然いろいろな議論があると思いますが、議論のベースがないと話が進みませんので考えたものを少しご説明します。
【Road Block解消に関する座長メモ（Ⅰ）】
○IRBに関する検討の方向性
まず、IRB関してですが、現状のIRBのあり方に対して、IRBを人工知能関係の案件も扱えるように対応する場合、複数のオプションがあったほうがよいのではと思います。まず各機関、大学や研究機関等において、人工知能の専門家であるとか、データ、権利、プライバシーの法的な側面も含めた有識者を加えることが可能なところは、人工知能関係に関する案件の審議に関しては拡大したメンバー、これは仮にAI-IRBと呼称すると、おそらくそれを構築することが必要になってくる。これができるところはこれでやっていただければよいと思います。
必ずしもそういう体制が整わないけれども、そういうことをしっかり推進していきたいという場合には、例えばCentral AI-IRBを作る。それは、例えばOPTION-1として、既にAI-IRBを構築している大学がほかの機関の審査委託を受けるということも可能にする。それは、案件全体として審査を委託する場合と、人工知能に関してのコメントをそこからもらうというオプションもありえるのではないかと考えます。そのオプションをすべて可能にするのか、どれか絞り込むのか、それ以外のオプションがあるかというのはこれからの議論によると思いますが、１つの考え方としてはそういうことかなと思います。今のことを次のページに図示しました。
左側に書いてある各機関でAI-IRBを作るというのは、既存のIRBに対して拡大したメンバーで、専門家などを含める、これはAIの専門家と、想定できるのはプライバシーとかデータセキュリティの専門家ですが、それは既存のIRBでも入っている場合でもありますから、既にそのような専門家が、既存のIRBなり、それ以外の手続きで入っているところは、AIの専門家を加えることでこと足りるのではないかと思います。十分なメンバーを加えた形でAI関係の審査ができるIRBを作るというのが１つです。
もう１つは、図の右側ですが、AI-IRBが左側で作ったもの、これは各大学と機関が作るもの、また、それ以外で専門的にIRBだけをやる組織を作るというのももちろんあるかもしれません。どこでどう置くかというのはこれからの議論でよいと思いますが、Central AI-IRBの機能を持たせたIRBです。この場合、IRB自体は整備されているが、AIの専門家がすぐに見つかるわけではないけど、いろんなAIを使った研究に参加したい、また、そこにデータを出したいという場合に、AI-IRBがあるところに代行審査をするということも想定しています。案件全体で委託する場合と、AI関連だけ部分審査してコメントをもらい、それをもとに各IRBで承認するという、いくつかのパターンがありえると思います。
もちろんAI関係だけを代行審査するというのは、全体を見ないで現実的に大丈夫かどうかというのがあり、このパスがあるかどうかというのもまた議論だと思いますが、こういう図柄、またはそれ以外の手続きのあり方がありうるのかというのも含めて、これはたたき台というより、たたかれ台と思いますけど、ここに書いてみました。
○AI-ICの考え方（案）
次にインフォームドコンセントの考え方ですが、前回議論したように、人工知能システムの場合は機械学習が基本になりますので、その場合は診断システムを作って提供するメーカーサイドがデータアクセスできないと学習できません。今までの場合は機器メーカーや製薬会社が何かを作り、それを病院や大学に持ち込んで治験をやってもらい、その結果だけをもらうという形でしたので、大学からサンプルやデータは直接のものが出てくる必要はなかったわけですが、人工知能の場合は生のデータの形でメーカーサイドにアクセスされることがないと人工知能システムは作れません。ですので、これをどういうふうにするかというのが１つ問題になります。
ここでいくつかのパターンを整理してみました。
○具体的なイメージ（１）
１つのイメージは、例えば画像診断のシステムですと、大学や各学会が、例えば内視鏡画像やレントゲン画像も含めて画像データを蓄積して、学会としてそれを集約して共有するという動きがいくつかあります。それに対してアノテーションがつけられる。これをどうつけるかというのは次の議論になりますが、機械学習ができるような形のデータがあった場合に、これを製品に搭載しないと学術的な成果は実際の現場にフィードバックされませんし、普及されないわけです。
共有されるデータに基づいて機械学習をして、診断であるとか診断補助システムが作られた場合、オプトアウトによるやり方を可能とする制度はどうなのか、この可能性は議論できないかと思います。なぜなら、このデータは学術的に常に共有されているもので、それが実際に実証してどうなるかというのをメーカーも含めて検証するというプロセスと考えられます。もちろんメーカーは製品として販売することになります。そうしないと、これは使われませんので。
ただし、そこで共有されているデータに基づいたシステムということになるならば、研究を普及させる、または実際に実証しながら改善していくプロセスだと考えることができれば、これはオプトアウトでできるかもしれません。研究の一環であるという考えです。成果の普及として製品に搭載することが可能であると考えられないでしょうか。
ただし、機能強化や、診断とは関係ないもの、例えばユーザーインタフェースの改良に個別のデータを使うとか、診断精度を、公開されている、シェアされるデータ以上にするとか、特殊なものをさらに作り込み、それを競争力の源泉にしたい場合には、これは共有されていないので個別契約になります。個別契約の場合は、現在行われるオプトインによる個人情報保護法の対象になります。これはハードルが高くなりますが、データは共有されないというやり方です。
その時に、差別化する機能は当然、同じシステムに搭載されていいわけですけど、基本的には公開されているものがシェアされる、実際に現場で使われて、検証し、さらに研究を進めていくということで、共同研究の成果の普及および改良だという位置づけで搭載いただくということはありえるのではないか。この場合、製品に搭載しますので、データを蓄積している学会や大学に対してライセンスフィーの支払いが発生する可能性もあります。これはいろいろな契約関係の議論が出てくる可能性がありますが、これは、またその段階で議論をしたいと思います。この考え方がそもそも成り立つかどうかについては議論できると思います。
○具体的なイメージ（２）
次は、完全にオプトインでやる場合です。これは学会のデータを使うのかもしれませんけど、機能強化もパラレルにやって全部混ぜて使っていく。そういった形で、すべてオプトインで共同研究もやるという場合もありうると思います。そうすると、診断機能および差別化機能も搭載して、このデータは基本的にはシェアされる保証はないわけです。ですので、競争領域でやることになりますが、その代わり、それをやる時にはオプトインになるというのが、もう１つのやり方かと思います。これが、今回の案です。これが本当にいいやり方かどうかというのは議論していただければと思いますが、１つのたたかれ台としてみました。
○アノテーション
次に、アノテーションのところを簡単にご説明します。技術的と制度面、２つのところでいくつかの議論をしたいと思います。
まずは、技術面。アノテーションの作業は膨大になりますし、しっかりしたアノテーション、ある程度標準的なものでやりたいとなると、サポートシステムを開発する必要が出てくると思います。今、学会で開発していたり、プロジェクトとしてあると聞いていますので、実際にどの程度のものができているか、それが使えるのか、さらに改良する必要があるのか、新規で何か考えなければいけないかというのは精査する必要があると思いますが、システムをどうするかというのが１つです。
もう１つは、１つの画像データに対してどうアノテーションするか、標準化という議論があります。実際にはその画像群を使って、どういう診断なり、機械学習の結果どういうものを判定したいのかによって、何のアノテーションをするかが変わるわけです。この患者さんのこの画像は注意しろというだけだったら、これは注意するか、注意しないかで、１・０のアノテーションをつければよい。ここの部分が病変部だからここのところを見るとか、病変部を特定するなら病変部のところにボックスをつけるというアノテーションにする。
同じ画像でも、何をしたいかによってアノテーションは変わりますので、１個の画像に対して１つの標準的なアノテーションということは、目的が違う以上ありえません。ですので、１つの画像に対して複数の目的ごとのアノテーションをできるような、マルチ・アノテーションのデータのシステムにしないとたぶんうまくいかないと思います。それが次のページの図です。
○マルチ・アノテーション
ここに書いてあるのは、患者さん１の画像に対して、例えばここを注意するかしないかといった場合はアノテーション１の０・１で、これは見るべし、見ないでいいというアノテーションですし、同じ画像でもアノテーション２として、患部はここですよということを図示したいなら、そこにボックスなり領域を示していきます。アノテーション３は、その患部とは違うようなアノテーション。ここの患部および、患部ではないかもしれないけど見るべきところであるとか、ちょっと違う見方をしたい時は、それは違うアノテーションになるわけです。
これは全部一緒にするのではなくて、目的ごとにアノテーションが違ってきます。同じ画像でも複数のアノテーションが当然ありえるので、これをシステマティックにできるようなデータベースなり標準化の方法を見つけていかないと、画像に対して１つの標準的なアノテーションで多様な目的の機械学習ができるようにはなりませんので、こういうやり方があるのではないかと考えています。これはテクニカルな問題ではあります。
問題になるのは、制度面、インセンティブの問題だと思います。基本的にこれを公開して、例えば学会ですと公的に定められた場所に蓄積しますから、これを学会にお願いした場合に、それに対する維持・管理を、例えば国なり産業界なりでサポートする支援の態勢をどういうふうにしていくか。データベースが大きくなるとコストがかかりますから、アノテーションをやる時のプロジェクトやトレーニング、いろいろなことを成り立たせるためにどういう施策を打ち出していくか、具体的にどうするべきかと書いてありますが、何か必要になる場合に、それは何かという議論が必要になります。
もう１つのアノテーションのインセンティブとして、専門医の資格を取得するにちゃんとアノテーションできないといけないとなると、専門医がやって、さらにそれがクオリティーコントロールされるならば、それが使えるかもしれません。本当にできるかどうかというのはありますが、とはいえ、専門医、画像診断する人がアノテーションできないということになると、かなり問題になります。
ただ、これだけですべてのアノテーションができるわけではなく、いくつかのオプションの１つです。アノテーションのやり方は、１個のやり方でできるかどうか分かりません。プロジェクトでやる場合と、ノーマルのルーチーンの中で自動的にアノテーションができるものと、診断している時にアノテーションができた場合には、それが自動的にデータベースにフィードバックされるという、いくつかのパスはありえるかもしれません。
問題は、複数のパスがあった時に、品質管理であるとか、その粒度が少し揺らぐ可能性があるので、そこをどういうふうに考えていくか。レベルを合わせるやり方は、手続き的なやり方でやるのか、複数のある程度揺らぎのある粒度があった時でも、それなりに正確な答えが出るような機械学習にするのか。こういう問題に対しては技術開発が行われる可能性がありますから、そういう、技術開発を推進していくような施策を打つかという話になると思います。あとは、アノテーション画像に対してはメタデータが必要になってきますので、オリジナルのところには、誰がアノテーションしたかのメタデータ等を入れることになるのではないかと思います。
これは本当にたたかれ台ですが、IRB、インフォームドコンセントおよびアノテーションに関して、議論をするベースになるものを考えてみました。
確認事項等の議論は後でまとめてやりますので、宮田先生のほうから資料２のご説明をお願いできますでしょうか。
（宮田構成員）今、北野座長からお話ししていただいたことと関連した部分もかなりありますので、そういった部分を簡略にしながら、少し角度を変えてお話しできればと思います。
【今後のAI基盤の運用における課題と展望】
画像診断のAI基盤における運用の課題と展望ということに関して、大きな特徴は、非競争領域と競争領域。今、座長のほうからも活用イメージの１と２ということで分けていただいたと思うが、特に大きな特徴は、非競争領域の構築運用にかなり力を入れているということです。
○非競争領域
これは前回のお話でも話題に上がりましたが、製品開発など、良いソリューションを世界に届けることも重要である一方、まずは患者さんのための最善の医療、より良い診断。こういった中でプラットフォームを運用していきたいという思いは各学会にも非常に強くあります。状況にもよるところですが、ここを軸にして、学術研究、公共的な領域への貢献ということの中で、オプトインだけではなく、時にはオプトアウトを組み合わせながらデータを収集することが可能になるであろう。これで何ができるのかというと、単に１つのAIを開発するということではなくて、画像診断をより良い精度で提供しながら、もっと医療の質を上げていくということで、今、AI開発は評価の部分で非常に花が咲いているところですが、これが予測し、そして、実際治療で、様々な介入を伴うということを考えた場合に、最終的に患者さんのパフォーマンスがよくなったかどうかというところを押さえることができれば、AIの評価という意味においても、様々な局面で優位性を獲得できるのではないかということです。後ほど各分野の進捗についてはお話しさせていただきます。
○競争領域
世界の多くは競争領域のみで構成されていることが多いですが、先ほどもお話いただいたように、各ベンダーに情報を閉じて、オプトインでデータを集めて、いわゆる排他的というのか、より競争優位性のあるものを開発していくということです。
ただ、これを単独でやるだけではなくて、非競争領域、リアルワールドのデータと連動させることによって、安全性検証において技術運用のチェックをすることができたり、あるいは継続的なアルゴリズム、競争領域で作り込んだものを現実世界で確認したり、あるいはどういったものが次のイノベーションのシーズになるのか探索することもできるので、この２つを連動させるというのは、世界においてもこれから、特に医薬品開発、医療機器においてもスタンダードになりつつあります。
○データ駆動型社会における基本的枠組み
トップダウンによる統制と自己決定のみによるコントロール。これは世界のデータ駆動型社会のキーワードで、この両方を組み合わせた運用ということで、下地は今整っております。
病理学会に関しては、後ほどお話ししますが、バーチャルスライドを共通フォーマットで活用しながら、クラウド診療環境を整備していく。この中で、お互いの教育目的でアノテーションを振っていく。あるいは、専門医というところはまだ具体的になっていませんが、より良い病理医の育成の上で、通常のアノテーションであれば該当部位を１個囲えば終了するが、AI育成においてはスライドの１枚に関して、該当する部位を全部囲うというようなことも必要になるので、これを教育であったり、研究連携の一環で行っていくということが整っています。
放射線に関しては、PACSのマルチベンダーシステムを富士フイルムが受注して開発しており、その枠外ではあるんですけれども、キヤノンメディカルシステムズも同様のものを開発しており、日本の企業がPACSのベンダー、マルチベンダープラットフォームを作りつつあるということで、この中でどう運用していくかということになります。
内視鏡に関しては、オリンパス、富士フイルムという、日本の企業は世界的にも大きなシェアを持っている。各企業のフィルターシステムを調整して、学会データベースを既に整備をしているというような形で、開発に関しても非常に競争領域には持ち込みやすいというところです。
眼科は一般のカルテとは異なり、眼科専門のカルテということで独立しており、４社でほとんどのシェアを占めています。この４社の規格を調整して、カルテと連動したシステムを作っているということで、これも出口は見え始めているところです。
皮膚科に関しては、非常にここが難しいところで、そもそも撮影自体がほかの分野と違って非常に安価にできる。スマートフォンのカメラを使って撮影技術もいらないので、世界中にはいろいろなベンチャーの取り組みがあるので、非競争領域というところが非常に作りづらいところはありますが、遠隔の連携、あるいは、病理と組み合わせることによって日本独自のものが作れるのではないか。このようなディスカッションをしています。
超音波に関しては、検査所見、診断面、診断画像の統一化を進めながら、一般のカルテシステム、これは京大がリードしているということですが、ここからのデータベースを整備しているということで、実は画像６兄弟と言われている分野、全部違う形で作っています。分野ごとに特徴があるので、何か１個で作るわけにはいかなかったというところがありますが、ただ、このような形で整備してきた非競争領域を紐づける。後ほど厚労省の説明にもあると思いますが、横軸を指すような運用連携というのは、今後ますます必要になってくるだろうと。
例えば収集したデータを紐づけるための仕組みですけれども、別々のシステムで管理していたとしても、これから、例えば被保険者番号が個人単位で振られますので、画像を新被保番とともに格納していただければ、後で結びつけることができます。こういった運用の統一も１つでしょうし、領域間の運営と連携を行うための仕組み。現状は、病理や放射線が既にディスカッションしていますが、施設内で紐づけて匿名化して外に出すのであれば問題ありませんが、今後、長期予後、いろんな運用パターンが生まれてきた時に、それだけでは当然吸収できない部分もあるので、こういった領域間連携というものを、様々なケースを視野に入れながら考えていく必要があるだろう。
アノテーション付与に関しては、先ほど北野先生が詳細な説明をしていただきましたが、単に診断をつけるためのアノテーション、AI 1を作るためのアノテーション、AI 2を作るためのアノテーション、全部違ってくるのでこれをマルチレイヤーで管理する。あるいはダブルチェック、追跡可能性の保証ということでクオリティーも管理する。そして、競争領域のデータの切り出し。こういった、整備されてきている基盤を連動させながら運用していくということは、今後、必要になるでしょう。
○競争領域と非競争領域の連動により、新しい研究開発の時代が到来する
４ページ目ですが、実際イギリスのマンチェスターという都市で、医療情報を都市ごと全部、EHR、行政のデータシステムも全部まとめ、運用しながら医薬品の開発をやった事例に基づいた１つのコストシミュレーションです。
いわゆるリアルワールドデータと競争領域のクリニカルトライアルを連動させて何ができたかというと、第一には製品の開発期間、データの収集、ランダマイゼーションの効率化。こういったところによる、あるいは製品開発の当たりをつけるスピードも上がるので開発期間が短縮できた。８年強のところを６年弱まで持ってきましたということ、あるいは、販売期間前より効果評価を実施することによって、製品の出口もより明確に見える。
HTAも現状は、多くは医療費抑制のため、価格を下げるために使われるケースが多いですが、むしろ、この商品が社会に出ることによってどれだけの貢献ができるか。そうなってくると適正な値段はこうであるということを、販売開始前から戦略的なHTAを産官学で検討することもできますという実際の例もあります。
○臨床疫学研究による実態把握と介入研究による病態の解明を組み合わせることで、医療の質と持続可能性を両立させる
これは外科を中心とした専門医と今、連動しているナショナルクリニカルデータベースの例ですが、例えば臓器がんの登録が集まってきているので、ここにDPCやレセプトを集め、一方で肺がん登録、企業と連携しながら免疫チェックポイント阻害剤の登録をする。
これによって、高額な医療を誰がどこで使って、どういう効果が得られているか分からないということではなくて、そういった実態に基づきながら学会がガイドラインとか、いわゆる価格だけではなくて、専門家側の方針、ガイドラインでコントロールする。あるいは、ここに当然企業が参画していくことによって、２割、３割といった効果のあるお薬をさらに絞り込みながら、高い割合で効果を上げられるように、免疫病態の解明をするような研究を産学でやっていくことができるような例も実際動いております。
○クラウドを用いた病理診断ネットワーク
これは画像ネットワークを動かす当初のコンセプトで、具体的に病理のほうでも実現しつつあるが、滋賀県、長野県で京大の先生たちが動かしていた地域のクラウド連携というのが１つのきっかけでした。当時は、AIというのは特に視野もなくて、病理不足、労働負荷の改善のためにクラウドに上げて見れれば解決するんじゃないかというところがあったのですが、２つの要因で難しかったと。
１つはバーチャルスライド。非常に高価なので各施設に置くと破綻してしまう。もう１つは診療報酬が分かれていない、クラウドに上げる部分と診断をつける部分では分かれていなかったということで、次のページをお願いします。
○病理標本のデジタル化
実際、例えばバーチャルスライドを全施設に置く必要はなくて、稼働率もそんなに高くないので、ある施設と共同利用する。送って、そこからクラウドに上げる。シェアリングエコノミーの考え方で、フェアに地域でできますと。診療報酬に関しては今年の４月から厚労省のほうで解決していただいたということで、広くこういったクラウドで連携しながら、日本を支える環境ができつつあります。
○プロフェッショナルとAIの協働による病理診断
そうなってくると、精度の高い人工知能の共同開発ができるようになっていて、今学会では教育用にアノテーションを、ベンダーを越えて共通に振れるようなシステムを、マルチレイヤーで振れるようなものを作っているので、これをあとはどういうふうに運用していきましょうかと。研究目的で共同研究の人たちが手分けして振るのもいいでしょうし、あるいは専門医、一環で一定の教育貢献に、こういったアノテーションの指導、サポートを考えていくのもいいかもしれない。
これができると、ダイナミックにAIの開発をしていくことができる。先ほど北野先生からもお話がありましたが、分野横断で作っていくことによって、例えばアノテーションの振り方も、10分の１ぐらいの枚数で同じ精度が出せるようなアルゴリズムの提案も始まっていますので、こういうものを横串で差し込んで、かつ、ダイナミックに専門家と連動しながら、今、最も重要な部分、あるいは世界において競争優位性のあるところを開発できるようになってくるので、こうすると、世界に対する優位性ももしかしたらあるのかもしれないと。
○JEDI（Japan Excellence of Diagnostic Imaging）
左側は、経済産業省さんが数年前からある病院で取り組んでいた国際展開、連携というのを、日本全体で連携することによって、１施設だと難しい症例だけ来てなかなか回らないんですけれども、これが10施設、100施設、数百施設になってくると、もしかしたら世界を支えることができるのかもしれない。少数の施設だと外貨を取るといっても大した額にはなりませんが、日本が世界を支えるような規模に至ることができれば、日本の将来にもつながっていくかもしれないということで、末松先生は「スターウォーズ」が好きな方で、渾身のネーミングがここに表れていますが、Japan Excellence of Diagnostic Imagingということで、JEDIと呼んでおります。
以上でございます。
（北野座長）ありがとうございます。それでは、資料３に関して事務局からご説明をお願いします。
（事務局）資料３をご覧いただきたいと思います。これまでの発表内容、また、事前にいただきました皆様の意見を踏まえまして、アノテーションに関する課題について、事務局で整理させていただきました。
○アノテーションにおける課題と考え方（案）
共通する課題といたしまして、いちばん上にありますとおり、専門性高いアノテーション、現状専門医が行っているということでございますが、非常に作業量が膨大になることや、質についても、どういったことを目的にするのかにもよりますが、どの程度まで確保していく必要があるのか。こういったことが、現状では明確になっていないことが課題になっていると理解しております。また、それぞれの学会におきましても、アノテーションを補助するためのツール開発とか、ワーキングの検討チームを個別に立ち上げて、対応いただいているという状況でございます。
これらの課題をまとめますと、まず１つはアノテーションの質をどういうふうに担保していったらいいのか。また、継続的な人材育成をどういうふうに確保していったらいいのか。こういったことが共通の課題として挙げられるのではないかと考えました。
その課題に関しまして考え方の整理をさせていただきますと、１つ目は横串の連携というところにもつながってくると思うんですけども、例えばそれぞれの分野でアノテーションしていますが、個別ではなくて、診療科間で共通に入力するような情報内容を統一するということは、１つ横串を進めていくために非常に重要ではないかと考えております。また、各学会の専門領域のアノテーションにつきましても、一定の質を担保することが重要でございますので、そういったことを示していくためのガイドラインなどの作成を、今後検討していってはどうかと考えております。
また、人材育成に関しましては、継続的に高いアノテーションを行っていくためには人材育成が非常に重要でございまして、本日もいろいろな取組のご発表がありましたが、持続可能な取組を今後検討していく必要があるのではないかと考えています。
また、当初から汎用性の高いアノテーションを実施することにおきましては、情報量、何でもかんでも入れなきゃいけないという形で非常に膨大になり、現実的ではないところがありますので、これは１番目のガイドラインのことも関わると思いますが、目的に応じたアノテーションをつけるような方向性での取組が、１つ解決になっていくのではないかと思っております。
○イメージ図
そのことを踏まえまして、これは事務局で何かの理想像を想定して描いた図ではないですが、いろんなパターンがありえるということで、１つ模式図的に示した図でございます。
各医療機関で得られているデータベースにつきましては、これまでも学会を中心に収集いただいております。学会自身が利用者であるのは当然ですが、そういった利用における内容と、あとは、これも仮の話ですけども、何か共通のプラットフォームがあって、そういったところで横串の連携がされてアノテーションがされる。そういういろんなパターンのアノテーションがありえるのではないかと考えています。成果を確実にフィードバックしていく流れをうまく作ることによって、持続可能な連携した仕組みが重要ではないかなということで資料を出させていただきました。以上でございます。
（北野座長）ありがとうございます。これから討議に入りたいと思います。３時半まで、50分ほど討議したいのですが、一緒くたにすると、議論が漏れてしまう可能性がありますので、今日はIRBの話と、インフォームドコンセント並びに競争領域・非競争領域の扱いに関する話、それとアノテーションの話、３つございますので、順番にやって議論を整理したいと思います。まずIRB、AI-IRB関係に関してご質問・ご意見等ございますでしょうか。
（山本構成員）今、OPTION-1、2と出していただいているんですけれども、各機関でのAI-IRBということを想定してみて、何しろビッグデータというか、データの大きさから考えると、例えば今現在、治験とか、そういう介入が必要なものもだんだんCentral IRBでやるようになってきていて、各機関でのAI-IRBを作ることが現実的なのかどうか。
例えば、とある大学病院だけでのデータを使って、何かができるというレベルの話をしているわけではないと思います。同じデータベースと基盤を作るのに、それを各機関で通すことによって、IRBの審査にAIの専門家がいても、必ずしも医療と連結している方がいるわけではないので、人材もいない。そうなると、同じレベルでの審査ができないのかなというのは非常に思っています。実際問題として各機関でのAI-IRBは可能なのかどうか、もうちょっと教えていただければと思うんですけれども。
（北野座長）現実問題、それはできないと思います。オプションとしてはもちろん書いてあるわけですけど、そこまで人材が豊富ではないですし、今ご指摘ありましたように、データ量からいって単独機関だけでやるとデータ量が限られますから、どうしても複数機関になると思います。そういう意味では、Central AI-IRBみたいなものを作るほうが様々な意味で現実的だと思います。
ただ、ある機関がAI-IRBを独自で作って、さらにそこにCentral AI-IRBの機能も持たせるということを、ほかとも連携してコンセンサスがとれるとすると、どこかの機関がAI-IRBを作って、それが図の右側にあるCentral IRBの機能も持つというようなことがありえるのかと思います。または日本で単一のAI-IRB、Central AI-IRBを作るべきなのか。Central AI-IRBといった時に、１個なのか、それとも、いくつかの拠点があるというのも選択肢です。そのような議論もあるのではないかと思います。
（山本構成員）IRBですけど、GCPでも倫理指針でも、今のIRBとか倫理委員会は、１施設に１個である必要もないし、委託できないこともないので、事実上Central IRBを今の制度下ですることはできます。
一方で、例えば再生医療法とか、今度できた臨床研究法とか、ああいうふうに法律にしてしまった時に、それぞれ認定の審査委員会が規定されているんですけれども、そちらは、特に外部委員の資質が細かく決められてしまうので、実際、私もいくつかの委員会の外部委員に入ってますけど、結局専門家が限られてますので、１人の人を使い回しするような形になってしまって、一部の専門家がものすごく疲弊するという状況がある。
もう１つはCentral化というか、ほかからも受けるということで、料金は非常に高くなってます。認定の再生医療のほうも、臨床研究関連でも、数十万から100万程度の審査料がかかるというふうな状況になっているので、研究費がたくさんある人たちしか研究ができないというような、リッチ・プアーの格差を生んでいる状況がありますので、そういう意味で、制度的にCentral化してしまうのは、そういう問題を生む可能性はあると思います。
（北野座長）その場合はCentral IRBもあってもいいけども、各機関のAI-IRBと並立させるという考え方になりますか。
（山本構成員）どちらかというと、法律とかを決めてしまって、それでCentralでいいですよというようなことをしてしまうと料金を取らざるを得ない。その料金というのは当然人件費を含んでくるので、数万円ではとても回らない。数十万から百万になってしまうという問題が出てくるので、AI-IRBを何か制度化するのかどうかという。制度化しないで、指針レベルで、各施設で持ってもいいですよという形であれば、もう少し弾力的な運用になるのではないかと思います。
（北野座長）分かりました。ありがとうございます。ほかにIRB関係に関してコメント等ありますか。
（山内構成員）そういった意味で、海外の事例を、どなたか知っていらっしゃる方がいたらば知りたいんですけども、海外ではどういうIRBのシステムでやってるのかっていうことが分かれば。
（北野座長）これはちゃんとした調査をしているわけではないのですが、おそらく今、個別のIRBのところで人工知能を含めた形で審査しているということだと思います。Central IRBのようにシステマティックにやるという話は、まだあまり聞いていないです。
（山本構成員）アメリカの倫理委員会は、AIのことは分かりませんけど、臨床研究についてはCentral化は進んでいます。ただし、それはCentralでなければならないではなくて、NHがお金を出してる対象研究の場合は単一のIRBでやってくださいというような、ファンディングのほうからの要請という形でCentral化しているのであって、制度的に進めているという感じではないと思います。
（北野座長）IRB自体がCentral化している場合には、AIもそこでやるからCentral IRBみたいになっているけども、そこに限定しているわけではないと。
（山本構成員）そうです。ヨーロッパは地区で分けてるので、もともとが施設に紐づいてなくて、地区ごとになってるところのほうが多いと思います。
（北野座長）今までの議論をまとめますと、この図でCentral AI-IRBみたいなのはもちろん作って、ただ、各機関でも、作る人材なりが確保できるところはおのおの作ってそこでやっていただく。こういう形でやるというのは指針レベルでやっていけば、全部Central化されてコストが極めて高くなることはない。そういうふうなサマリーになると思いますけど、ご異存、違うやり方がいいというというご意見はございますでしょうか。
（保科構成員）違くはなくて、完全に補足なんですけれども、ご存じのとおりAIの専門家は今非常に足りなくて、今IRBを持っているところに全部配置していくのか。現実的には無理だと思うので、現実解としてはCentral化せざるを得ないと思ってます。
ただ、その時に、お話しいただいたご懸念のとおり、それを法律化するといろいろと問題があると思うので、いわゆるCentralで、特にAI部分に関してはCentralに頼る。そこから人を共有化してサポートするという形が現実的かなということで、異論とかではなく、単なる補足意見でございます。
（北野座長）現実問題としては、各機関ではできないと思います。できるところにやるのはだめというと、これはおかしな話になるので、そこにはやっていただいてかまわない。リソースの問題としては、現実的にかなりCentral化されることになるとは思います。しかし、うちは自力でAと医療が分かるセンターも作るとか、人がいるからやりきれるというところは、それをだめと言う必要は全くないということかと思います。
ありがとうございます。それでは、次にいきたいと思います。インフォームドコンセントと非競争領域・競争領域のところです。ここはかなり議論が出るのではないかと思いますが、これに関してご意見・コメント等いただけますでしょうか。
（山本構成員）宮田委員がご説明になった非競争領域と競争領域の、非競争と競争がどういうコンセプトで分かれてるのか、ちょっと分かりにくいと思ったので、今、さらっとご説明されましたから、もう少し詳しくご説明いただいたほうがいいかなと思ったんですけど。
（北野座長）私の理解と宮田さんの理解が全く同じかどうかは分からないのですけど、私のスライドで考えていたのは、例えばアノテーションされているデータ等が学会等で共有されている場合、または、メーカーなどが入ってやった場合、学会に共有されるデータベースにリポジトリされて、その会社以外、またはその共同研究以外でも使うことができる。それはパブリックなものになる。それを使って機械学習をするというのは、基本的には非競争領域と見なしていいのではないか。データがパブリックになっているかどうかということ。
もちろん、機械学習をどう精緻化するかとか、そのレベルを上げる、アノテーションの精度を上げていくなど、個別のプロジェクトで行われていて、その大学とメーカーの努力であっても、それが共有化されているパブリックなアセットとしてのデータセットに還元されているものは非競争領域だとみなすことになるかと思いますまた、これらのデータを使った機械学習をした結果も、学会や共同研究でその精度が実用に耐えるものかという議論は行われ広く研究に反映される構造になっている場合には、そのような評価結果も含めてパブリックなアセットだと考えると、これは共同研究、学会のパブリックな成果を商品の中に入れ込むという形でも良いのではないかという議論もあると思います。
逆に、それ以外に個別の契約をして、さらに精度を上げる、しかし、これはパブリックにしませんと言う場合もあります。我々はさらにこういうことも診断できますよ、付加情報としてこれもやれますよ、しかし、これは学会のデータベースには還元されませんよ、というのは競争領域といえます。これは学会のデータベースからでは実現できない精度や機能で、別にデータを取得してアノテーションすることになります。データごと個別に契約をすることになるので、これは競争領域です。この場合にはデータや評価結果が、パブリックにならないので、オプトインでやる必要があるのではないかというのが私の理解です。
（宮田構成員）そのとおりです。
（山本構成員）我々医療機関側でデータを出す側でもあるので、その時に、研究かそうでないかというところで、研究であれば倫理委員会にかけて倫理指針上で観察研究であれば出せる。研究でなければ出せない。そこは同意を取らないと、業務情報を出すことになってしまうのでオプトインにしなければならない。ざっくりするとそうなってるんですね。
研究の成果として商品になっていく時に、商品化されるところが研究の延長としてみなされるのか、あるいは、企業の商業利用に使われるものだから研究ではないとみなされるのかは、医療機関側が決めることではなくて、それは個人情報保護委員会でしたっけ、個人情報保護法でそういう委員会ができてたと思うんですけど、公取委員会みたいなやつが確かできたと思うんですけど、そこがどう判断するのかっていうことなのかなと。
確か倫理指針の改正の時に、どこまでオプトアウトにするかというところで、厚労省、文科省と個人情報保護委員会でやり取りをされてたような気はしますので、ある程度そのあたりで、このぐらいまではオプトアウトでいいですよというようなものが示されれば、みんなそれで動くと思うんですね。
（北野座長）これから詰める必要があると思います。１つの原則は、製品でも研究の延長であるというためには、パブリック、公的なところに還元されるというのが大前提だと思います。それがないと競争領域になってしまうので、どこまで還元するかというのはかなり細かい調整がいると思いますけど、パブリックなものを使って、学会の研究の成果がAIを使って診断の現場にフィードバックされて、患者のベネフィットになる。さらに、それでどういうことが起きたかというのがある程度シェアされるというのが１つかなと思います。
（山内構成員）ただ、競争領域においても患者さんに還元されないわけではないので、ですから、非競争・競争という言い方と、山本構成員がおっしゃった研究か研究でないかも、今、非常にそれがシームレスになってきて、例えばがんのクリニカルシークエンスなんかは、研究なのか、臨床なのか、私たちも現場が混乱しているわけです。
研究でデータを集めるんだけれども患者さんにお金を払ってもらって、保険診療外なんだけど使える薬があったら使うみたいな。競争か研究でないかも非常にシームレスになってきて、競争か非競争かも、学会がやっていれば非競争で、企業が入ると競争。でも、競争に関して、例えば産学連携でどんどんそういうのを進めていくっていうのもあって、確かにこの分け方は、宮田構成員の分け方は分かるんですけども。
（宮田構成員）それは私の分け方ではありません。
（山内構成員）分かりました。もう１つ、宮田構成員が指摘したことで非常に大切なことは、収集したデータを紐づけということで、患者の個人番号、マイナンバーに紐づけて、患者に紐づけるってことをおっしゃってたんですね。
宮田構成員の資料の３ページのところの、各学会が非常に頑張ってやっていて、いろいろと出してはいるんですけど、結局、１人の患者さんに対して、病理画像があって、放射線画像があって、その方が眼科にかかればその組織もある。診療の現場からいうと、１人の患者さんに対するデータで、それを紐づけして見せていかないと、かえって。
AIだからこそ全部を紐づけて、全部を合同できて同時にしないと、実は眼科の疾患があって、それに関連する皮膚科の疾患だったのに、別々に学習させることでそれが紐づいてないと学べないっていうことがあるので、だから、ビッグデータ、ビッグデータと言ってる時に、患者に紐づけした横串のデータを取ることを、今、各学会ではやってますけど、それができてないと思うんですよね。
今、宮田構成員がやっているNCDも、今まで外科だけだったんですけど、そこに形成も入ってきて、そこに遺伝の情報も入れるようになってきて、NCDの患者さんの番号に関連するものをできるだけ紐づけするように少しずつ広げてきてますよね。そういう働きをしたデータをインプットさせないと、見落としてしまうんじゃないかと思っています。
（北野座長）紐づけに関しては全くそのとおりで、それをやらないと、これを議論している意味がないと思います。ばらばらでやっていては、眼科領域と内視鏡のように、いろいろなとこに関係するというものが将来研究できませんから、これは必須です。前段でおっしゃっていた非競争領域・競争領域をもう少し正確に整理したほうがいいというのを、宮田さんお願いします。
（宮田構成員）非常に難しい部分ですが、ここをある程度切り分けておかないと、今患者さんのために医療の質向上をやっているのに、なぜ一部の企業がクローズドにしてデータを持っていくという抵抗感は、現場には相当あります。
当然一部はそういうものがあるけれども、そういったものをある程度切り分けながら運用していきますということを、北野先生が非常に明確に整理していただいたのですが、ただ、山本委員もおっしゃっていたように、これをどういうふうに切り分けるかというと、個人情報保護法、など様々な観点からの判断になるので、それを全てこの場で片付けるのは、おそらく難しいでしょう。
倫理も法の解釈も変化するので、運用の中でも少しずつ明確になっていくのか、あるいはもっと不明瞭になるのかは分からない部分ではあるのですが、重要なのは、競争領域は少なくとも明確に切り分けられるものは分けた上で、基本的には患者さんのために、より良い治療のためにやっていきましょうというところです。非競争と呼びましたが、学会のデータベースを現場のイニシアチブで回していただく。そのためにちょっと整理して、最近よく使われる言葉の１つなので充てさせていただいたということです。
重要なのは、海外がすべてそうというわけではないですけど、競争領域、あるいはデータベースを１個にして、とりあえず運用を決めてしまうというやり方だとつぶしが利かないので、日本は協調的・公共的な領域を学会ベースにうまく使っていただいているので、価値を高めるような運用を目指しています。横串を刺すということだったり、アノテーションセンターを作るということだったり、あるいはそれ以外の、産官学連携の橋渡しをするとか、厚労省がそのあとに提案していただいたような、横串を通すような機能要件とか組織運営どうやっていけばいいのかということを、個々というよりはワーキングなのかもしれないですけど、ディスカッションしていただけるといいのかなと思います。
（北野座長）ありがとうございます。ほかに議論、ございますでしょうか。
（保科構成員）オプトアウトのところって、先ほど製品化は研究の延長なのかみたいなお話もありましたが、そこは非常に重要なポイントなのかなと思っていて、製品化したあとに製品がオペレーションされて、その結果が研究に確実にフィードバックされるならば、それは公共性がある程度あるというか、それはここで決める話ではないのかもしれないですけど、オプトアウトに入るのかなと思っていて、いわゆる製品化されたあとの研究へのフィードバックという仕組みを、条件としたほうがいいのかなというふうに思います。
（山本構成員）私自身は臨床研究をやってますし、医療者なので、要はプライベートセクターが作ってくれないと、製品にならないと医療の現場で使えませんから。保険がつかないと使えないので、いったんデータをプライベートセクターに入れて、そこで開発してもらって、製品として出してもらって、それで回さないと公共の役に立たないというのは非常によく分かってますし、先ほど山内構成員がおっしゃったように、今、臨床と研究、それから、パブリックセクターとプライベートセクターはほとんど切り分けられない状況になっていますので、切り分ける議論をすること自体がむだだなと思うんですけれども。マスコミの論調を見ていると、ある会社が儲けてるとか儲けてないとか、一部に富がいくとそれをすごく突く国民性があるので、そこは気をつけないと、妙にたたかれて終わってしまうのは嫌だと思います。
先ほど北野座長がおっしゃったような、データがパブリックスペースにあるかどうかというような分け方は分かりやすいかなと。どれもプライベートセクターである程度使われないと製品化されないので、そこでもなかなか終われないんですけど、それこそ、宮田構成員がおっしゃったような学会が主体となってデータベースを管理していって、あるプライベートセクターが取り込んでいるのではなくて、パブリックドメインの中にあって、それがプライベートセクターも使うというような感覚のほうが、私は個人的には分かりやすいかなと思います。
（北野座長）先ほど議論があったように、使った結果でアノテーションの変更が必要になる事例があったら、それをフィードバックしてもらう。問題があって、そうやって質が上がってくると、それを使っているメーカーの製品は全部質が上がるわけですよね。そのフィードバックのループを作っていくことは研究の延長でもあるし、パブリックグッズになりますので、そこはオプトアウトでやっていく正当性がある議論なのではないかと思います。
（宮田構成員）そういう意味では、いろいろな意見は出ても同じ方向性を向いているのかなと思うのですが、例えば、これはある画像領域で出た話ですが、超音波でも、いきなりある企業が製品に付随したものとして独占販売するようなAIを作るのも１つの方法ではありますが、その前に、全体のAIを底上げするような画像の収集の仕方とか、分析の仕方を学会主体で作りたい。ここをまずしっかりやりたいというのが学会の先生方の希望であって、社会にとってどっちがいいのかは分かりません。
そこでもたついてしまうと、企業の製品開発重視のほうが先に行くのかもしれないし、そうでないかもしれない。とはいえ、機器開発と連動した開発、これも１つすごく重要である一方、全体の医療の質を押し上げるような開発もやっていくべきです。この点のバランスが現場ではせめぎ合っています。
外科のほうで、我々が山内先生と一緒にやらせていただいているNCDも、かなりの開発の部分が、実は公共領域のほうに入ってきています。学会でいくつかの、例えば、経カテーテル大動脈弁置換術でも複数の企業が連携して、公的データの販売後調査として各企業が囲い込むのではなくて、学会を軸にしてデータを共有をしながら安全性チェックもやっています。公共領域は、このデータベースでは安全性と臨床研究開発という点において成果を出しています。ただ、整理しないとやれないという話よりは、状況を切り分けながら、データの共有の仕方と成果の共有の仕方を考えていければいいのかなと思います。
（北野座長）具体的イメージの（２）のように、全部オプトインでやり、エクスクルーシブでやるというオプションは、やりたいところはやればよく、別に排除するわけではない。ただ、結構ハードルが高いのではないかなと思います。
あとは、最後にまとめの時に１つだけ確認しておきたいのは機能強化のところ。今、これはオプトインにするものと想定していますが、その部分までオプトアウトという議論はありえると思いますでしょうか。要するにシェアしない、個別でやるものもオプトアウトにする。これはなさそうな気がしますが。これはないですよね。図柄の最終的な方向だけで、ここを確認するとだいたい方針が決まってくるので、今は、シェアするものはオプトアウト。シェアしないものはオプトインという分け方をしていますが、全部オプトアウトという選択肢はないですよね。
そうしたら、この図で、パブリックでやるならオプトアウト、個別のところはオプトインにして、それを連動する製品というので、いろんなことをパブリックにフィードバックしていただくのは研究の延長だというのをオプトアウトでやれると。オプトインで全部やるという場合があれば、これは全部オプトインでやっていただければ。今でもできるし、そのオプションは閉ざすわけではないということ。
（宮田構成員）ありがとうございます。１点補足させていただくと、今、パブリックにシェアしているデータベースでも、オプトインしなければいけないという判断がIRBによっては出ています。このあたりが整理できると、先ほどのCentral AI-IRBというものを活用して少しやりやすくできれば、１つ成果にはなるのかなという気がします。
（北野座長）そのあたりは１つの指針なり、個人情報保護法など細かいところをこれから詰めていく必要はもちろんあると思いますが、方向性はそういうことで、今後ディテールを詰めて次回以降報告をさせていただいて、早ければ中間取りまとめで１つの考え方がまとまれば、早く動けるかなと思います。
（山内構成員）実際、臨床の現場で私たちが患者さんにオプトアウトで、要するにデータとか、使っていいかというのをやっていた時にですら、患者さんの中では、それをノーと書く方も何％かいらっしゃいます。
今、オプトアウトでデータをやっていて、例えばNCDの登録とか、がん登録とか、そういった意味である程度理解があって、ただ、それが今度はAIの開発のためにも使いますよとなった時に、患者さんたちが、どこまで行くか分からないんだったら全部オプトアウトにしようという流れになると、国民が不利益を得る。
そのへんの進め方を国民の方々にきちんと啓発をしてやっていかないと、何かアレルギー的に、データが漏れたら嫌だということで、そういう傾向になってくるといけないなと思いましたので、そこも同時に進めていかなければいけないなと思います。
（北野座長）そこのコミュニケーションはちゃんとやる必要があるのではないかと思います。ありがとうございます。
次に、アノテーションのところに進みたいと思います。アノテーションは実際どういうスキームがいいのか、かなり議論があるとは思いますが、ご意見・コメント等いただければと思います。よろしくお願いします。
技術面のほうはマルチ・アノテーションだというのが、現実的だと思います。あと、アノテーションサポートシステムをどうするかというのは、具体的に今何が起きているかというのをちゃんと見ないといけない部分もあるとは思います。
問題は、制度面、インセンティブなのですよね。システムがあって、データベースをどうするかが決まっても、アノテーションは人がつけないと話になりません。しかも、アノテーションプロジェクトをやります、５年間プロジェクトをやりますでは、５年間終わったらほとんど作業がなされなくなりますから、ルーチーンのプロセスの中でアノテーションができるという結構チャレンジングなことを考えないといけない。これはかなり大変で、制度設計やインセンティブ設計は相当考えないと立ち上がらない。最初は、プロジェクト化でもいいと思うのですけれども、それだけではサステナブルにならないので、ここの議論は非常に重要なところになります。
（山本構成員）よろしいですか。アノテーションというのが具体的にはどのぐらいの作業なのか、あるいはどのぐらいのレベルの専門性の人がやらないとできないのか、ちょっと想像がつかないので、なかなか議論のステージに上がれないなと思います。
（宮田構成員）ありがとうございます。アノテーションは各学会といろいろな形で議論をしています。まさに北野先生がおっしゃっていただいたとおり、いろいろな振り方があります。がんがあるかを同定するだけだったら、この画像の中にありますとタグを振ればいいだけであります。
あるいは、がんがどの部位にありますということを同定するのであれば、スキャンしたある１枚の画像の中の、がんがある部分を丁寧に囲えばいい。ただ、ホールスライドイメージングの中で全部、どこにがんがありますかということをやるとすると、全部輪切りに対して振っていかなくちゃいけないという、途方もない作業になってしまう。目的によって全然違います。
多くの方々が口をそろえて言うのは、これが全部、今までの臨床に入ってきたら崩壊しますという話なので、どのような形でインセンティブを作っていくかというのは、もちろんここでは結論は出ないですが、それをサポートするためのいくつかのアプローチに関してはディスカッションできるかもしれない。
話を少し戻しますが、例えば海外でどうやっているか、まさに競争領域というところですけれども、企業があるソリューションを作るので、インセンティブというのか、お金を具体的に出してアノテーションを力業で入れていくわけです。それは現場と離れたところで行われるので負荷ではない。ある意味１つの仕事としてやるような話である、あるいは、より公共的な部分で回していくのであれば、そういった資源には必ずしも頼ることはできない。企業が連携してそこに対する資金を出すというのも１つかもしれないですし、あるいは既に案として挙がっていた教育研究、あるいは研究チームを数施設、十数施設で組んで、その中で分担して割り振ってやっていくということも１つでしょうと。
あとは、既に病理とかがやろうとしていることは、最初の力業で作ったAI、いわゆるパブリックの、非競争領域のAIであれば、それを無料で学会に使っていただける。今まではアノテーションの部分を１から自分でやらなくてはいけなかったんですけれども、手がかりとしてまずどこにありそうですというのをつけて、実際の臨床で使う一環で手を加えることによってアノテーションを付加していくことが、今までよりは負荷軽減になるのではないかということです。臨床のサポートの一環で、実際自動的にアノテーションの教師データを作れる取り組みも始まっています。
これはこの間、グーグルですね。AMEDの落さんもいらっしゃったと思うんですけど、グーグルクラウドが今AI開発というのをAPI専門に作っていて、グーグルの方もそのような取り組みを行っているようです。このようなソリューションで、コストを下げながら集める方法を技術面からサポートすることになるのかなと思います。少なくとも言えることは、一領域で独立してやるとノウハウを全部自分たちでやらなくてはいけないので、今回は画像で６領域集まっているので、少なくとも横串を通してサポートするということは有用なんじゃないかというところもAMEDの議論の中でも出始めています。アノテーションを効率よく振るようなシステムの提案というのも始まっているので、これも横串の組織の有用性につながっていく話かなと思います。
（田辺構成員）今、宮田先生からお話しいただいているのは、私も今AMEDでPOもやらせていただいていますので、アノテーションをつける現場というのはつぶさに見ているわけですけれども、学会さんによって、さばく画像によって何事も変わってくるというか。
今サンプルでいただいています資料で、すみません、揚げ足を取るようで大変恐縮なんですけれども、マルチ・アノテーションのところで赤い四角で図示していただいているんですけれども、例えばこれが、四角でいい画像と、丸で丁寧に囲わないといけないアノテーションもありますので、画像のどれをどのようにさばくのか、何かを判定させるのかによって様々に変わってくるのがあるので、学会さんベースである程度、どのようなアノテーションをつけることが適切ですよというのはコントロールしていただいたほうがよくて、ただ、宮田先生がおっしゃるように、横串で１つ軸を通して、標準化とか効率化というところを進めていくべきなんじゃないかなというのは、現場を見ていてそう思うところです。
（北野座長）今、オートマティックなアノテーションのサポートというのは、各学会で研究がされているのですか。
（宮田構成員）具体的には放射線が、読影レポートからアノテーションを作れるのではないかということは話をしています。ただ、それ以外の領域に関しては、どうしても囲うという部分の作業が発生して、そこをどう個別化しようかというところです。
（北野座長）実際問題として、完全自動は結構難しいですよね。完全自動だとアノテーションが性能の限界になって、アノテーションをつけているシステムをそのまま使うのと同じになるので。それはサポートになり、効率化するけども、人間がもう１回チェックして、おかしいならちゃんとアノテーションをし直さないといけない。
同じ問題は実は自動走行でもあって、自動走行も膨大な走行データをアノテーションして、これは人であるとか、これは木であるという学習をしています。あれも、人でやったら全く話にならないので、かなり自動化されています。ただ、100％正確にはならないので、それをずっと見ながら、ここは修正する、ここは修正するということを大規模にやっています。もう１つ自動走行では、実データではなくてシミュレーションで全部画像を作っているのがあるのです。膨大な数の道路のいろいろなパターン、仮想的な道路パターンを全部作って、それをアノテーションして、要するに見たことのない道路状況に対しても全部学習できるようにするということをやっています。
生命科学の医療の分野で、将来はいくかもしれませんけれども、今そこまでいきなりはできないかもしれませんけど、自動化および人間とAI共同型のアノテーションシステムで効率を上げるというのは必須になると思います。現状の話に、もどりますが、当面は、プロジェクトが必要になってくるのですか。そうしないと動かないでしょうか。
（宮田構成員）現状は各AMEDの、例えば皮膚科とか眼科の関連のところにNIIが入ってくれているので、NIIから、ここで作ったサポートシステムを使えるのではないかという、こういう提案にはなっています。ただ、座長がおっしゃっていただいたように、これをもう少し効率よく、今できてないことの１つは、横串で連動して運用させていくことになるので、それを考えていくと、そういうプロジェクトは、あったほうがいいのは間違いないです。
（北野座長）ディープランニングだと、GAN（Generative Adversarial Network）というものでパターンを生成すると、マージナルなケースがたくさん作れるので、技術的にはいろんなことができる。それはプロジェクトでやるという１つの技術的オプションとしてですが。もう１つは、それをやったとしても、最終的にはルーチーンの中に入れて、継続的にアノテーションができて、しかも、改良が継続される必要があります。その導入の仕方に関してはどうでしょうか。
（宮田構成員）そこがまさに、今回いろいろとご示唆を頂きましたが、あえて競争領域と協調領域というのを使ったのは、１つの製品パッケージとして届くと、それを使っている、使ってないみたいな感じで、結局デバイス依存なのかみたいなところ。それはそれで必要なものではあるが、病理とか放射線とか、今回マルチベンダーで画像をAIで分析できるようなところを、眼科もそうですが、そろえたので、そうなってくると、日常業務の中で日本の眼科医、病理医、あるいは放射線医をサポートするような機能を入れていって、その一環で使っている中で新しいアノテーション、こういったケースにアノテーションをお願いしますというのを横串で刺すような組織が、全部のアノテーションつけてくれば消えるが、100回に１回ぐらいそういうものをお願いするというのであれば、もしかしたら応じられるかもしれない。あるいはこのアノテーションは筋が悪い、当てはまらないケースを現場からピックアップしながら、新しい課題開発に向けた手がかりを見つけるのも１つかもしれないと思います。
（山内構成員）アノテーションのレベルとして、例えば病理のスライドを見て、病理医が日常診療をやっていることで、それががんか、がんじゃないかということで、たくさんスライドにつけるのは大変ですけれども、つけてもらえれば、日常診療をそのままアノテーションとしてフィードバックすればいいですけど、放射線科の場合、画像のレポートだけではなくて、その放射線科医ががんと読んだところが、実際にがんだったのかどうかというところまでフィードバックをしなければ、実臨床で私たちもそういうカンファレンスはやっていますけれども、全例それをやる、それは実臨床ではやっていないことなので、そこのレベルまでのアノテーションというか、せっかくだからそうしたほうが診断率は上がっていくと思うんですね。
ですから、日常臨床の中のデータ解析をフィードバックすればいい分野と、もうワンクッション、実際にうちの放射線科の先生も、超音波の学会からそういうのをやってもらえないかと言われて、ただ、日常臨床の中で全部病理に戻って、整合性はどうだったのかをやることは、労力がものすごいかかるとおっしゃっていました。
（宮田構成員）まさにここが横串組織の価値になる部分で、すばらしい論点だと思います。例えば、放射線と病理でディスカッションが始まっているのが、今まで放射線の読影レポートの中で、世界ではAIを作ってきました。ただ、実際は、今回連携すると最終病理確定診断を引いてこられるわけです。
そうなってくると１つ、NDA事項には当たらないので申し上げますと、例えば放射線だけで分かるがんを最初にソートして、最終確定診断でチューンナップすると。そもそも放射線の画像では分からないものも一定数あるので、最終病理の確定診断のデータを使いながら、ソートをしながら臨床の連携を回していくということで、おそらく分野を超えた連携というところに、すごく大きなチャンスもあるんじゃないかなという気がします。
（北野座長）そこはすごく重要なところで、人がアノテーションをした場合には人の能力を超えないのですよね。ルーチーンで確定診断できなくて、こうだと思うけど、そのあとはよく分からないというと、それ以上のシステムは絶対作れないのです。だから、今のところで、最終の確定診断までいって、それがどうだったかというようなことがアノテーションにフィードバックすることができると、それはかなりレベルの高いシステムになります。作るのはすごく大変だと思いますけど、やるのであればそれは目指すべきですよね。それが一足飛びにできなくても、段階的に、少なくとも何段階でそこには絶対行くという制度設計はしておくべきだろうなと思います。
（宮田構成員）少し加えますと、ここになぜかNCDが入っているかというと、その後の正しい診断だけではなくて予後です。これは別にNCDじゃなくてもいいのですが、行政データ、レセプトと連携してその後の予後が分かってくれば、この時のこのタイプのがんと診断した時に、どういった治療、どういう予後が予測されるかというような、科を超えた診断の正確さだけではなくて、患者さんのためにどういう診断をどういうタイミングで。
そうしたら、ある程度の精度でも早く治療を開始したほうがいいケースも生まれるかもしれないですし、精度を高めるのを待って、より精密に届くようなフェーズで治療を始めたほうがいいケースもあるかもしれないので、介入も視野に入れたところにつなげていくことができる。ただ、これは研究機関でいきなりやるという話ではないですが、今おっしゃっていただいたように、こういった運用も想定して作るといいのかなと思います。
（北野座長）非常にいい議論になってきましたが、今日の会議では、これらの全てを、こうしましょうと決まらないと思います。とすると、次までに少し議論させていただいて、アノテーションシステムか、今の確定診断とか予後まで見た時の全体像をどうするかというのをまず考えていきたいと思います。いきなり最終形態にはいかないでしょうから、フェーズ１はここまでやって、フェーズ２に進み、さらに最終的に目指す形までいけるようなシステムや制度の全体図を設計して、それから時間軸を決めていくというやり方がいいのではないでしょうか。
もう１つは、今のルーチーンの診断の中でそれが入ってくれば、それは自動的に入ってくるので、それ以外の施策は基本的にはやらなくても全部入ってくるという考えでいいですか、今の仕組みができてくれば。それ以外、例えば最初はある程度やるとは思うのですけれども、それ以外に、何らかのアノテーションをするようなインセンティブを今の流れ以外に考えておく必要があるかという話なのですけれども。
（山本構成員）ルーチーンの診断の中に回していくということはないんじゃないかなと思うんですよね。医療現場の現状で考えると。ある程度プロジェクトで回していって、あるところからは、例えばそのアノテーションがおかしいという指摘は現場でもできるとは思うんですけど、正しいアノテーションを引き直せと言われると、それは大変ということにはなるんじゃないか。
（宮田構成員）病理は明確にそれを目指しながら１つの方向性としています。少なくともこれをやろうとしている現場がいるというのを理解して頂ければと。
（山本構成員）たぶん領域によって負担の程度が違うんじゃないかなと。
（宮田構成員）日常臨床の一環で開発を回す、それを志してやろうとしているところがあって、既にその一歩は国内外で始まっています。
（山本構成員）分かりました。
（宮田構成員）一方で、それが難しい領域もちろんあります。これは患者さんの同意も同じで、患者さんの近くで治療をしているような内視鏡の場合だと、オプトインで非常に取りやすいので、さっきの話でいうと競争領域に移行させやすいですが、そこは病理には難しいので、公共部分でしっかり回さないとデータベース自体が回らない。いろいろ分野ごとに特徴があるので、それを踏まえた上で、今、各学会が個別、この６領域で作っています。
今日の１つの議論は、それぞれの領域で個別にやられていることは、私はすばらしいとは思うんですけれども、彼らをサポートしながら、患者さんに対してより良い治療につながっていくことができるのが何かということを考えた時に、座長が整理していただいているようなアノテーションであったり、あるいはIRB、同意の取り方だったりというようなことになっていくのかなと思います。
（山本構成員）うまくいくところとうまくいかないところがあるという、領域ごとに考えていかないといけないというふうに、もし報告書を作るのであれば。病理でいけるから全部それでいけますよではなくて、それぞれ。
（宮田構成員）私はそのように発言してはいません。
先ほどお話したように、各学会、それぞれデータベースの作り方は全部違うんですよね。つまりある１つの方式で全部いきましょうなんていうことではありません。それぞれの分野の違いを踏まえた上でどう連携するか、どう発展させていくか？というディスカッションをしています。ここは確認させて頂きたい。
（北野座長）もちろんルーチーンの中に全部入れば、すべての、対応する医療行為のところからのデータが全部集まりますので、これは当然ながらベストなのですけれども、そうでない、なかなかそこまでいかないという状況ももちろんある。その時に、いかないからというだけではなくて、なぜそれがいかないのか。そこのところをきめ細かく議論させていただければと思います。よろしいでしょうか。時間もわずかですが、もう１つ、ご意見があれば。
（井本構成員代理）これは座長にお伺いすべきなのか、事務局にお伺いすべきなのか分かりませんが、議論についていけなかったので教えていただきたいのですけれども、今回第２回目の会議ということで、前回のロードブロック、座長からご提案された会議の進め方ということで、参考資料２にあったかと思います。２ページにあるように、研究を進めていくと各段階でロードブロックにぶち当たるので、それを明確に同定する。さらには、それを解消するアクションと紐づけるということで、問題点の洗い出しをしようという形で各段階に相当するロードブロックを意見だしすることになったと思います。その結果が事務局のほうで用意された参考資料２の３ページ以降に並んでいる内容だと思います。これがロードブロックである障害のリストであろうと思われます。
今進めている研究事業の活動の中でこういう問題が存在していて、これを解決する方策を議論することにより、それが解決策（アウトカム）になって、より一層研究が進むようになるだろうというような形で会議が進むのかなと思っていたのですけれども、今日の議論では、前回の議論と宿題の結果を踏まえることなく、「こうあるべきだ論」がいきなり出てきているように思われます。最終的にロードブロックとして整理した現状の問題点との関係が紐づいて、例えば、今はこういう指針なり、こういう法律において、こういう解釈になっているからこういう問題が生まれているが、今日の提案された資料案で進めれば、これらの問題点は埋めることができる、例えばキャリブレーションなり、指針を出すなり、法律の改定なりを提言すると、こういう方向でまとまるというイメージと理解してよろしいでしょうか。
（北野座長）そういうことを想定しています。ただ、ここで全部完全に決着するわけではなくて、例えば先ほどの、個人情報保護法をどうするかとか、細かい議論というのは、別途個別に精査した上で取りまとめをすることになると思います。ここでは基本的には大きな方針と、今日もいくつか出させていただいた案に関して、どこはいけそうか、この案の場合は新たにこういう問題も議論しなければいけないというものを出していただいて、それをまとめて、次に、それをもう少し精密にしたものを出させていただく。
まず最初の目標は中間取りまとめを年内に出しますので、そこである程度いければ、それを基本にガイドラインなり、枠組みを、厚労省のほうからアナウンスしていただければどんどん動くだろうという、そういうふうな形になります。
（井本構成員代理）それでまとまるのであれば議論の推移を見守りたいと思いますが、今日のIRBの議論では、現場で「IRBで困っているのは何なのか」という議論がないまま、「そもそもAI-IRBがあるべきじゃないか」とか、「Central AI-IRBにすればいいんじゃないか」というところから始まっているような気がするのですけれども。「現場が今〇〇で困っているのでこういうふうにすればいいんじゃないか」、あるいは「現場は〇〇で困っているのでこれで現状のルールでも読めるようになる」というような話。それが、例えば指針なり法律に紐づいていれば本日議論された対策案の意味も見えやすかったのですけれども、そこの話がなかったので分からなかったんですけれども。
（宮田構成員）IRBを少しサポートさせていただくと、まさに今現場ではIRBが施設の数だけあり、そこの判断がまちまちになっていて理解が共有できないところがある。先ほど制度化の反対の議論もあって、まさしくそのとおりの部分もあるのですが、これがCentral IRBとして議論をある程度公開しながらシェアすることによって、各施設の、それを見てそうは思わない人たちは難しいとは思うんですけれども、議論をシェアすることによって少しは理解が進む部分もあるかもしれないというところにおいては、ご提案は一歩前進かなと。
つまり、これは通常のIRBではなくて、AIの専門家も踏まえて、気になるような論点、よく分からないからやめておこうと判断するIRBがあっても否めないわけですけれども、議論を尽くした上でこういう判断ですというところを、少なくともいくつか示すのはおそらく前進につながるでしょうし。ただ、それだけで解決しない問題もあるので、そこに関して、法改正、あるいは向上委員会に案件を持ち込んで、より明確な判断をいただくとか、そういった対応も必要になるのかもしれないなと思います。
（北野座長）ありがとうございます。
（西川構成員）オブザーバーの立場で申し訳ないですけれども、すごくいい議論だなと思って、１つだけ質問させてください。座長の紙のページ４の同意を取るところの具体的イメージ、パブリックドメインの話があったと思うんですけれども、ここで議論されているのは、当たり前ですけれども、匿名化されていない情報を前提にされているので、パブリックドメインとおっしゃっているのは、公表しているわけでは当然ない。学会のメンバーがいて、いろんな企業が使いたいと言ってきた時に、ある意味アプリオリに、この人はだめとかこの人はいいと決めるわけではなくて、一定のクライテリアを設けて、そこにジョインできる人はという、そういうイメージでよろしいですか。
（北野座長）当然そこは、フェアで、トランスペアレントで、アカウンタブルであるということが非常に重要になると思います。
（西川構成員）一般的に公開されるものでは当然ないということなんですね。
（北野座長）誰でもというのは、それはないと思います。それでは、事務局のほうから資料４のご説明をいただけますでしょうか。
（森審議官）医薬・生活衛生局と書いてある、「AI技術を利用した医療機器の法律上の取扱にかかる対応について」。タイトルがやたら長いんですけれども、AIを医療機器としてどう扱うかということに関しての、今の状況を含めた状況のご説明ということで今日用意してまいりました。そもそも医療機器って何なのという話を最初に申し上げておいたほうがいいかと考えて、医療機器に関する説明の資料をいろいろちりばめた格好で、この資料は作ってあります。
○AI技術を用いた医療機器への対応について
そもそも医療機器は器具・機械を想定しているもの、形のあるハードなものというのがもともとだったんですが、最近では形のないソフトウェアを医療機器として扱わなければいけないというふうになってきているために、医療機器自体の定義や取り扱いの考え方を拡張するという様々な手直しが、ここのところ急速に行われています。そうした中で、特にAI技術を想定した対応がいくつか最近行われているので、かいつまんで２ページ目のところにご紹介をしています。
１つは、「これまでの対応」と書いてあるとこに、そもそもロボット技術とかICTとか、そういったものの技術革新を踏まえた相談の体制をPMDAの中でも作っていこうとしていますと。まだこれはオンゴーイングです。
それから、診断の支援の医療機器プログラムが開発が活発に行われているようなので、その審査上の論点について、平成28年３月にガイダンスを公表しているという状況ですし、さらには、AIを導入した画像診断機器を手がけておられる医療機器の業界の方々と一緒に勉強会を開いて、自由にいろんな観点での学習を、PMDA、そして、厚生労働省のスタッフが勉強しているという状況であります。
AIの特性に即した格好でやろうとしていますが、AIの技術自身がどんどん進歩・変化をしているために、AIだけで考えると難しいので、まず画像診断の領域で考えられるAIを想定して、これを導入した画像診断機器についての評価の指標を作ってみようじゃないかということで取り組んでおります。
そうは言っても、実際に製品が開発されてから、現場に出てからもどんどん改良がなされていくということなので、開発の体制、あるいは市販後の体制、それぞれに合った体制整備を検討しなければいけないんじゃないかと考えています。
折しも今年の４月から、医薬品医療機器等法の見直しの議論が始まっております。これも５年前に医療機器に着目した形で、旧薬事法を少し編集を変えて、医薬品と医療機器と再生医療製品、それぞれタイプの違うプロダクトに対応した形で法律の仕立てを少しずつ変えた構成にしております。
医療機器に関しては、医療機器の部分の章立てを分けて、医療機器に関する特性にあった格好で中身がさらに変えていけるように５年前にやっておりますので、今回、５年後の見直しでさらに、最近の医療機器、特にソフトウェア医療機器に対応した格好で見直すということも今議論の対象になっています。
○医療機器プログラムとは
プログラム医療機器といったり、医療機器プログラムといったり、法律の中には医療機器プログラムと書いてありますが、以前はハードウェアにプログラムが載っているという格好で、機器を審査する格好で扱っていました。それを、ソフトウェア単体で流通することを医薬品医療機器法の規制対象にするということで、３ページ目の左上から右下のほうに流れている、そういう制度改正をやってきているということをご紹介しています。
○医療用プログラムの薬事規制
ここは間違いがございまして、医薬品医療機器法の第２条のところ、「第１項」と書いていますが、「第４項」の間違いでございます。そして、「医薬品」と書いてありますけれども、「医療機器」でございます。そのあとに引いてある部分は正しいですが、この法律の中にも、プログラムというものを医療機器の範疇に入れていますということ。
そして、その販売というのは、従来はCDに焼いたり、あるいはメモリーに載せて、その物を売るというイメージだったのを、今やネットで配信する形態が当然になっているので、第13項で書いてるところ、いちばん下のところですが、「電気通信回線」。古くさい言い方ですが、ネットで配信することも販売の範疇に入るんですよと規定したということで、もたもたしているとは思いますが、制度的にも、ソフトウェア、そして、AIも含むものだと思いますが、こうしたものがどんな格好で流通するようになってきているのかというのを想定しながら、制度も対応していきているということであります。
○医療機器の分類と規制
医療機器というのはどういう分類になっていますかということ。国際的にはほぼ同じ考え方になっていますが、いわゆる診断、治療、予防に使うものですので、リスクの高さによって規制の厳しさを分けようという考え方になっています。左側はリスクがわりと低いもので、クラスⅠ、Ⅱ、Ⅲ、Ⅳと４つの区分になっていて、主にクラスⅡ以上のところが、ある程度の規制をもって中身を審査しなければいけないものというふうに扱われています。
プログラム医療機器というのは、おおよそクラスⅡとかクラスⅢの分類に属するようなものだというふうに、今のところ想定されています。クラスⅣは、生命に直結する極めてクリティカルなものなので、ソフトウェア単独で人の生き死にを支配するものはまずないということですが、プログラムの示す内容が、重要な治療方針の決定などにつながるものだとクラスⅢじゃないですかというような、そんな考え方におおよそなっております。
○医療機器プログラムの該当性の考え方
ここは概念的なお話ではありますが、今申し上げたことを２つの軸線で医療機器をプログラムとしてどういうところに位置づけているのかというのを図示したものであります。医療機器として規制をしたほうがいいかどうかということについての該当性の考え方をご紹介しているので、上のほうの枠で囲った中身をご覧いただければと思います。
医療機器の定義に合致するというのが、人もしくは動物の疾病の診断、治療もしくは予防に使用されること。そして、人または動物の身体の構造もしくは機能に影響を及ぼすことが目的とされているもの。そういう器具・機械、これはソフトウェアもそうですが、そういうものを医療機器と定義しています。ただ、機能の障害が生じた場合でも、人の生命や健康に影響を与える恐れがほとんどないものは、はなからソフトウェアは医療機器の対象から除くという特別な扱いになっています。
ここで議論しているAIの目指す性能は、当然人の健康や生き死にに影響がある大事なものだということで議論されていますので、そこはあまり関係ないかもしれませんが、ただ、治療方針の決定の寄与がどれくらい大きいのか。そして、不具合、つまり、間違った動作をするとか、間違った結果を導き出した場合に、どんなリスクが生じるのかということの程度によって、該当性というのは考えられるんですよということをここでご紹介をしております。
○プログラムの医療機器への該当性に関する基本的な考え方について（通知）
プログラムの医療機器への該当性に関する基本的な考え方というのは、法律改正をやってまもない今から４年ぐらい前、平成26年の11月に基本的な考え方の通知を出しております。これは今も生きている通知ですが、こういった考え方と、治療、診断等にどの程度寄与するのかということと、不具合があった場合のリスク、総合的なリスクの蓋然性がどの程度あるのか。これによって、プログラム医療機器として扱えますか、あるいはそうしませんかというのを判断しますよということをここに示しています。
ただ、この考え方自体は、米国のFDAが示している考え方と基本的には同じで、日本だけ独自にやっているものでもないんです。その下に具体的な例示をするような形で、こんなものは該当します、こんなものは該当しませんというふうに示しておりますので、ご覧いただければと思います。
要するに単なる辞書みたいなもの、そういうものの類いは医療機器としては扱いません。そして、よく分からないブラックボックスのようなルーチーンの中から結果を、かなり重要な決定に寄与するようなアウトプットを出してくるようなものについては、医療機器の扱いとしてコントロールしたほうがいいんじゃないですかというふうに示しているということであります。
○医療機器として規制される範囲
プログラムの一般医療機器相当のもの、つまり、リスクがほとんどないようなものは除外していますよということの、該当の施行例の条文を挙げています。これは証拠を示しているだけです。
○次世代医療機器・再生医療等製品評価指標
これから出てくる新しいタイプの医療機器、特にソフトウェア医療機器はまさしくその代表ですが、こうしたものに関しての製品の評価指標を先に作って、その指標に基づいて開発をやり、そして、その指標を示されているものに基づいてPMでも審査をするような形にしておけば、予見性の高い形で製品の開発や評価、市販後の規制を行えるだろうということで、今こういうものを続々作っているということでご紹介をします。
この図の中でいいますと、製品開発の効率化と承認審査の迅速を図る目的で、想定される新しいタイプの医療機器がどういう性能を発揮するものなのか。そして、どういうリスク要件が想定されるのか。それによって検討しておくいくつかの評価のチェックポイントを、指標という格好でお示しをするということであります。
具体的には、(1)企業の開発の迅速化と書いてあるところの下に、設計・開発というのがあって、そのあとに、安全性試験とか性能試験と書いてございます。安全性の試験や性能試験に、どんな項目で試験を行うのかということが評価指標であらかじめ示されていれば、試験項目の内容が具体的に考えられる。そういう試験にクリアするための設計や開発も、当然それを指向した格好で行えるようになるので、合理的な、予見性のある開発ができるようになると思われます。
そして、そうしたものに従ってやってきたものが申請されれば、審査する際も非常にリーズナブルに、速やかに評価を行うことができるようになる。こういうことを考えてやってきております。
○コンピュータ診断支援装置評価指標
具体的な実例として、ちょっと古いんですけれども、平成23年の３月に示している、これは例の１つです。コンピュータ診断支援装置の評価指標というのが、この時点で出されております。これはAIは含んでいないので、かちっとしたプログラムで判断するようなタイプのものを想定した評価指標でございます。
その中身の概略を次のページに示しております。どんな内容がこの中に含まれているのかというのを、かいつまんでご紹介しているものであります。後でご覧いただければよろしいかなと思います。
こうした指標作りを厚生労働省でやっておりまして、AIに関しても、指標作りの作業を今ちょうどやっているところであります。ただ、対象となるAIの製品の進化がすごく速いものですから、ディープランニングになると、どう指標として挙げておいたらいいのかということについては、いろんな英知を集めてということになります。こうした点については、指標を出してからも、すぐに改良・改定しなければいけなくなるような、そういったことが見込まれるという話を今しているところであります。
もう１つ、今の薬機法の制度改正の議論をやっている中でのお話として、１つ紹介をしておきます。医療機器というのを硬いハードウェアの製品として昔は捉えていたので、ある定まったスナップショットのような格好で、この製品はこういう構造とこういう性能を発揮するものですというのを、ピン留めするような格好で承認をするという、承認のあり方が基本的にそういう作りになっております。
ところが、AIを考えますと、基本的にはどんどん製品の性能が変わっていく。進化をしていく、改良が繰り返される。実は最近の医療機器は、製品の改良が非常にラピッドサイクルで行われていることが我々にとっても非常に頭が痛い、あるいはそういうところを想定した、医療機器の特性に合わせた審査のあり方や承認の形を考える時期に来ている状況がありまして、今の制度改正の議論の中で、製品の改良が非常に速やかなものについての承認の与え方は、スナップショットである段階のものをとらまえて承認しても、すぐに変わってしまう。
したがって、むしろプロセスの部分を規定したほうがいいのではないか。どういう改良プロセスをどんな体制で行って、どういう判断基準で改良をよしとするか。そういったことがきちんと決められたシステムによって担保されるような格好になるもの、それを新たな承認の概念として導入してはいかがか。
もちろん、かちっとした旧来のデバイスは、スナップショット式の従来の承認のあり方で十分担保できると思われますが、今のAIのようなソフトウェアの医療機器に関しては、むしろプロセスを規定して、それを体制としてオーソライズして、それに基づく承認を与えるという考え方がとれるのではないかということで、今その議論をやっている真っ最中でございます。年内を目標に議論を行って、来年、国会に法改正のご提案を差し上げるようなことまで視野に入れながら、ご議論をいただいているという状況でございます。
今日のここまでのご議論で、先生方がお話しになっていることを踏まえましても、今やっている制度改正の中での議論の、プロセスを想定した取り扱い方の必要性がより高いのではないかと、お話を伺っていて思います。
○AI特有の懸念
資料のいちばん最後のところに、AI特有の懸念と書いてありますけれども、本当は「AIに適した考え方の検討」というふうに、タイトルを変えた資料にしてお送りしたはずでしたが、古いバージョンのまま行っております。すみません。
懸念というのは逆に言うと、そういうものに対する正しい取り組み方、検討が必要ということでございまして、書いてある内容自体は、まさしく普通の医療機器、これはスナップショットで捉えて、改良したらそれをリバイズしてというやり方。これが上のほうのプロセスです。
そして、今考えている新しい承認の概念を持ち込まなければと言っているのが、AIを利用した医療機器のところになります。連続的にプロセスが動きながら製品の性能が進化していくものに対しては、むしろプロセス自体をオーソライズするようなやり方をする必要があるのではないかということで検討しているということなので、それを最後に申し上げさせていただきました。
簡単ですけれども、資料４のご説明は以上でございます。
（北野座長）ありがとうございます。ご質問等、１つ、２つ、いただければ。
（山内構成員）今のをお聞きしてて、さっきからいろんなことを考えていたんですけど、ロードブロックの(6)とも関与してくるかもしれないんですけれども、AIと研修医というか、医者という、人間とロボットの区別がだんだんつかなくなってきている中で、今お話を聞いていて、AIの先ほどのアノテーションの、最初の資料２の制度面・インセンティブの話もあるんですけど、AIを研修医というか、医者を教育するというふうに現場で考えていかなければいけない。
実際にAIを使うことをずっと想像して、どうなるかなと考えてたんですけれども、研修医を教育するのと同じように考えていかなければいけないのかなと思っていて、研修医１人育て上げるみたいにAIをいろんな意味でデータを増強して育て上げて、そのあと、結局専門医になっても、例えば専門医の更新、生涯教育をしながら、研修医や専門医を育てる感覚でこれをやって、AIを教育していくというプロセスに置き換えると、現場でもやっていけるかなという気持ちがちょっとはしてきたので、そのくらいの労力というか。
しかも、研修医を教育するのにプログラムがありますよね。それと同じように、AIも必ず教育するプログラムがありつつ、それをクリアしないと研修教育病院になれないので、それをクリアしないとAIをそういうふうにしていく病院になれないというか。人と同じなのかな、そのくらいの勢いと覚悟でやらないとだめなのかなと感じました。
（北野座長）ありがとうございます。研修医と違うのは、研修医は毎回いろんな人が来ますけれども、AIは１回レベルが高くなると世界中レベルが高くなります。いろいろな領域をずっとやっていくと、全体のレベルが上がるという意味では、すごくいいのかなと思います。
（田辺構成員）そうですねという話でしかないんですが、評価をしていくプロセスの中で、私はセキュリティ製品で、AIを使ってマルウェアを検知する製品の評価をしているんですけれども、メーカーさんがご提供される時に、スペックとしてこのぐらいの精度で捉えますよと言われても、我々の実環境に入れると、まずもってそもそも入らないとか、インストールできないとか、そこからスタートするんですね。
あとは、我々の環境の中で動かした時に、彼らが言うほどの精度が上がらない。いわゆるリアルワールドデータを、AIの製品がリリースされて現場の病院さんでお使いになった時に、果たしてカタログどおりに出るのかという意味でいうと、最終的に承認された後で、どういう形で、運転している中でどう評価するかというところが非常に重要かなと。
なので、そのプロセスの中で、例えばセキュリティの製品ですと、リスク判定のモデルのアップデートが１～３か月の間に必ずありますよとなるんですが、そのくらいのスパンでもしかしたら、運転としては品質の評価をするタイミングを入れたほうがいいとか、運転しているところの評価も非常に重要なのかなと感じた次第でございます。
（森審議官）まさしく、今も実は医療機器は承認したらそれでおしまいではなくて、出てから不具合が必ず起きます。その不具合はいろんな形で現場からクレームとして上がってくるので、そのクレームをきちんと処理する仕組みをマネージメントシステムとして設けておきなさいというのは、プロダクトに対しての要件としても言っていますし、それから、それを扱ってる事業者さんに対しても、業を与える際に、そういうシステムを会社として持ってくださいと求めていますので、メンテナンスをしていく、あるいは現場に出してからも製品の改良を行っていくためのクレームに対応しながら、改良につなげていくことが大事だというのが、制度的にも、医療機器固有のという感じになっていますが、持ち込まれるようになっています。
プログラムはもっとスピードが速いので、そのスピード感を行政側が、改良することを１回１回オーソライズしていくみたいな格好だと、とてもじゃないけれどもペースが合わないということが課題かなと。ただし、任せっぱなしにしてしまうのも、規制側としての責任の所在が曖昧になってしまうので、一定期間の中で正しいプロセスを動かしながら改良してもらう、対応してもらうということをどうやって担保できるのか。これを、実際に事業をやっておられる医療機器の業界の方々とも協議をしているというのが今の状況であります。
（北野座長）時間がなくなってきました。最後、山本さんに行く前に、今のところで重要なポイントは、機械学習に基づいたものは、テストセットをどう準備するかが重要で、メーカーが作っている初期設定がある程度限られたものだと、それに対してチューニングがかかってしまう。そうすると、ご存じのように、実際には現場では、そこまでの精度が出なくなる。そこらへんはうまく考えなければいけないかなと思います。
（山本構成員）先ほど、アノテーションをルーチーンの現場に入れるかというところで、私が難しいんじゃないかと言ったのは、実際に、私は循環器なので、例えば放射線科医が頭部CTとか頭部MRIを、放射線の専門医が24時間以内に読影すると加算がつくんですね。逆に言うと、24時間以内に全部読まないといけないので、それ以外のよけいなことをしている暇がないわけです。
逆に言うと、いったんある程度診療現場に組み込まれたAIについて、アノテーションを一定の力量のある方、専門医がアノテーションすれば、例えば、し直したらそこに加算がつくとか、そういうインセンティブを入れていただくと、それはそれで頑張れるんじゃないかなという気はしました。
（宮田構成員）ありがとうございます。考えが変わっていただいたようで何よりです。とはいえ既にこの１年の中でもいろいろなペーパーが出ていて、例えば「JAMA」にこの間、眼科で出たのが、AI単独だと特異度がまだ課題です。ただ、最初にAIがソートをして、そのサポート、２回目を人間がやるという形で特異度99.5まで持っていったと。
こういった形、あるいは医師なしの診断、IDxというのが認可されたのですが、あれはすべての領域で医師をリプレースするのではなくて、むしろ全くそうじゃなくて、夜間とか、あるいは医師が届かなかった部分を、少し高い価格だけど埋める。どういうシチュエーションで使うかというところも機器の認可に入ってくるところなので、活用のシーンはすごく重要になってくる。感度、特異度だけではなくて、どの場面であれば、ここはこの精度でいいというディスカッションできるといいかなと。
（北野座長）分かりました。ありがとうございます。本日の議論はこのぐらいにしたいと思いますが、今日出たIRB、インフォームドコンセント、アノテーションに関して、だいたい方向は見えたと思いますけど、細かいところを詰めていく必要はありますので、この作業は事務局と私と、数名の先生方にもう１回お話を伺いながら詰めていきたい。できれば第３回の時に少し詰まったものを出して、それを確認いただければと思います。
１つの目標は、中間取りまとめを年内に出そうと思っていますので、そこまでいければ、それに基づいてアクションが早めにとれる可能性が出てくると思います。頑張ってやりたいのでご協力お願いします。あとは事務局のほうからお願いします。
（事務局）ありがとうございます。今、座長からお話ありましたとおり、法律の改正論とかいろいろ議論がありましたが、事務局としては、一足飛びに法律の改正論ではなくて、現行制度でどういうふうに整理していくのか、そういう観点で事務局で整理して、次回またご相談させていただきます。
次回ですが、11月22日（木）14時から開催を予定しています。詳細は追ってご連絡させていただきますので、よろしくお願いいたします。以上でございます。
（北野座長）今日はありがとうございました。これにて本日、終了します。ありがとうございます。

携帯ホームページ

携帯版ホームページでは、緊急情報や厚生労働省のご案内などを掲載しています。