loader
Trí tuệ nhân tạo trong chăm sóc sức khỏe

Trí tuệ nhân tạo đáng tin cậy có tiềm năng giúp đạt được các mục tiêu chính sách quan trọng và đã được thống nhất như tăng trưởng toàn diện và mục tiêu phát triển bền vững. Nó cũng có thể khuếch đại và kéo theo các vấn đề xã hội, kinh tế và địa chính trị ngày nay. Tệ nhất, nó có thể được triển khai cho các mục đích bất chính và phá hoại. Con đường mà thế giới sẽ hướng tới AI về cơ bản là một sự lựa chọn chính sách. Mặc dù sự quan tâm đến AI y tế đã tăng lên và khu vực tư nhân đang phát triển nhanh chóng, nhưng việc sử dụng rộng rãi vẫn còn hạn chế. Điều này tạo cơ hội cho các nhà hoạch định chính sách đi trước đón đầu và thảo luận về cách tốt nhất để tận dụng các cơ hội thực sự mà AI mang lại, đồng thời xem xét các cơ chế để đảm bảo ngăn chặn, giảm thiểu và kiềm chế rủi ro.

Các Nguyên tắc AI G20 dựa trên giá trị của họ nhằm mục đích thúc đẩy sự đổi mới và niềm tin vào AI bằng cách thúc đẩy quản trị có trách nhiệm đối với AI đáng tin cậy đồng thời đảm bảo tôn trọng các giá trị công dân, chủ quyền và nhân quyền. Họ xác định năm nguyên tắc dựa trên các giá trị bổ sung cho nhau: tăng trưởng toàn diện, phát triển bền vững và phúc lợi; các giá trị lấy con người làm trung tâm và sự công bằng; tính minh bạch và khả năng giải thích; mạnh mẽ, an ninh và an toàn; và trách nhiệm giải trình.

Trustworthy Artificial Intelligence

Thêm vào đó và nhất quán với các nguyên tắc dựa trên giá trị này, Nguyên tắc AI của G20 lưu ý năm khuyến nghị dành cho các nhà hoạch định chính sách về chính sách quốc gia và hợp tác quốc tế đối với AI đáng tin cậy: đầu tư vào nghiên cứu và phát triển AI; thúc đẩy một hệ sinh thái kỹ thuật số cho AI; định hình một môi trường chính sách có lợi cho AI; xây dựng năng lực con người và chuẩn bị cho sự chuyển đổi của thị trường lao động; và hợp tác quốc tế cho AI đáng tin cậy. Đặc biệt liên quan đến sức khỏe có lẽ là bộ nguyên tắc và khuyến nghị sau: thúc đẩy hệ sinh thái kỹ thuật số cho AI bằng cách hỗ trợ chia sẻ dữ liệu an toàn, công bằng, hợp pháp và có đạo đức; vận hành các nguyên tắc AI, đặc biệt là đảm bảo tính minh bạch, khả năng giải thích và trách nhiệm của các kết quả đầu ra của AI; thực hiện giám sát và hướng dẫn theo quy định khuyến khích đổi mới trong AI đáng tin cậy; xây dựng năng lực con người (trong số nhân viên y tế cũng như bệnh nhân và người dân, những người phải cảm thấy thoải mái với máy móc ‘thông minh’); và phân bổ đầu tư công dài hạn (vào các lĩnh vực ngày càng khan hiếm nguồn lực).

Trí tuệ nhân tạo trong chăm sóc sức khỏe

AI không thể hoạt động như dự định nếu không có dữ liệu tốt để học hỏi. Dữ liệu chất lượng cao, mang tính đại diện và trong thế giới thực là điều cần thiết để giảm thiểu rủi ro sai sót và sai lệch. Tạo một môi trường nơi dữ liệu đó – đặc biệt là dữ liệu sức khỏe cá nhân – có sẵn cho các nhà nghiên cứu và nhà phát triển AI theo cách an toàn, tôn trọng quyền riêng tư và quyền tự chủ của cá nhân là chìa khóa cơ bản. Điều này đòi hỏi các khuôn khổ mạnh mẽ để quản lý dữ liệu sức khỏe, trong và giữa các quốc gia.

Sự thiếu tin tưởng giữa bệnh nhân, công chúng, người quản lý dữ liệu và các bên liên quan khác về cách dữ liệu được sử dụng và bảo vệ là một trở ngại lớn đối với việc sử dụng và chia sẻ dữ liệu. Dữ liệu sức khỏe cá nhân rất nhạy cảm và có thể hiểu được quyền riêng tư là một trong những rào cản phổ biến nhất đối với việc sử dụng chúng. Tuy nhiên, không thể giảm thiểu những lợi ích tiềm năng của việc sử dụng dữ liệu sức khỏe cá nhân để tạo ra kiến thức mới, chẳng hạn như trong bối cảnh thử nghiệm các loại thuốc và vắc-xin rất cần thiết (chẳng hạn như cuộc khủng hoảng COVID-19 hiện đang được nhấn mạnh). Các nhà lãnh đạo chăm sóc sức khỏe nên làm việc để quảng cáo những lợi ích của việc sử dụng dữ liệu sức khỏe, thay đổi lập luận rằng việc sử dụng dữ liệu là rủi ro duy nhất và bỏ qua những lợi ích bị bỏ qua đối với các cá nhân và xã hội khi không đưa dữ liệu vào hoạt động. Cũng cần phải xua tan ý kiến cho rằng có sự đánh đổi giữa bảo vệ dữ liệu và sử dụng thứ cấp dữ liệu sức khỏe.

Phương pháp quản lý rủi ro và thực hiện cẩn thận các thông lệ tốt có thể cho phép cả việc bảo vệ và sử dụng dữ liệu. Các quy trình quản lý rủi ro chính thức, được cập nhật định kỳ có thể bao gồm việc xóa dữ liệu không mong muốn, xác định lại, vi phạm hoặc sử dụng sai mục đích khác, đặc biệt là khi thiết lập các chương trình mới hoặc giới thiệu các phương pháp mới. Vì một số lý do (ví dụ: tính đại diện và độ rộng của đầu vào), nhiều ứng dụng của AI trong chăm sóc sức khỏe sẽ được hưởng lợi đáng kể từ sự hợp tác xuyên biên giới trong xử lý dữ liệu. sức khỏe cá nhân vì mục đích phục vụ lợi ích công cộng. Điều này bao gồm xác định và loại bỏ các rào cản đối với hợp tác xuyên biên giới hiệu quả trong việc xử lý dữ liệu sức khỏe cá nhân, cũng như tham gia với các chuyên gia và tổ chức có liên quan để phát triển các cơ chế cho phép trao đổi hiệu quả và khả năng tương tác của dữ liệu sức khỏe, bao gồm cả việc thiết lập các tiêu chuẩn cho dữ liệu và trao đổi thuật ngữ.

Female Medical Research Scientist Working with Brain Scans on Her Personal Computer. Modern Laboratory Working on Neurophysiology, Science, Neuropharmacology. Understanding Human Brain.

Chia sẻ dữ liệu giữa các khu vực pháp lý là trọng tâm để thúc đẩy nghiên cứu AI trong các lĩnh vực như ung thư và các bệnh hiếm gặp, vì nó yêu cầu đủ lớn, đại diện và đầy đủ (và có khả năng giảm lượng khí thải carbon liên quan đến AI). Chia sẻ dữ liệu xuyên biên giới cũng rất quan trọng trong thời kỳ xảy ra đại dịch (ví dụ: COVID-19), khi sự lây nhiễm lan rộng trên toàn cầu và cần phải có hành động phối hợp. Do tầm quan trọng cơ bản của dữ liệu tốt trong AI, việc không triển khai các mô hình quản trị mạnh mẽ sẽ cản trở và cuối cùng là ngăn chặn những lợi ích tiềm năng của công nghệ mạnh mẽ này.

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Thỏa thuận về các yếu tố dựa trên giá trị của Nguyên tắc AI của G20 là một thành tựu quan trọng nhưng mới chỉ là bước khởi đầu. Chạy chúng một cách nhất quán trên khắp các quốc gia sẽ là một thách thức. Ví dụ: các tác nhân AI phải cam kết minh bạch và có thể giải thích được (Các nguyên tắc AI của G20) và công bố thông tin có trách nhiệm liên quan đến các hệ thống AI. Việc triển khai điều này trong thực tế có thể là một thách thức về mặt kỹ thuật: Nhiều hệ thống AI hiện đại dựa trên đám mây, được phân phối theo địa lý, kiến trúc điện toán tùy ý theo không gian, tính song song không xác định mà tại bất kỳ thời điểm nào cũng không thể xác định được về mặt vật lý. Về nguyên tắc, việc có thể tạo và duy trì nhật ký đầy đủ của từng bộ xử lý sẽ góp phần một phần vào việc triển khai mô hình tổng hợp đa tăng tốc AI, nhưng nó có thể tốn kém và quá cồng kềnh để triển khai. Do đó, khả năng truy xuất nguồn gốc hạn chế và hiệu suất về cơ bản không thể tái tạo và không thể kiểm tra lại trong việc triển khai hệ thống AI cụ thể của bệnh nhân hoặc bác sĩ lâm sàng có thể chứa lỗi hoặc tạo ra lỗi hoặc lỗi — sai lệch không mong muốn, không chính xác so với thông số kỹ thuật, thử nghiệm xác thực và phân tích mối nguy — có thể gây ra các vấn đề cụ thể cho cơ quan quản lý, tòa án, nhà phát triển và công chúng.

Các tác nhân AI cũng chịu trách nhiệm về hoạt động đúng đắn của các thuật toán của họ, trong vai trò của chính họ. Liên minh Châu Âu gần đây đã công bố một báo cáo nêu rõ rằng các nhà sản xuất nội dung kỹ thuật số hoặc sản phẩm tích hợp các công nghệ kỹ thuật số mới nổi phải chịu trách nhiệm pháp lý về thiệt hại do lỗi trong sản phẩm của họ gây ra, ngay cả khi lỗi đó là do những thay đổi được thực hiện đối với sản phẩm dưới sự kiểm soát của nhà sản xuất sau khi sản phẩm đó đã được sửa đổi. được đưa ra thị trường.

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Đảm bảo tính mạnh mẽ, bảo mật và an toàn của các thuật toán và ứng dụng AI là điều tối quan trọng và FDA gần đây đã đề xuất một bộ hướng dẫn để quản lý các thuật toán phát triển theo thời gian. Trong số đó có kỳ vọng rằng các nhà phát triển sẽ theo dõi cách các thuật toán của họ thay đổi để đảm bảo chúng tiếp tục hoạt động như thiết kế và yêu cầu họ thông báo cho cơ quan nếu họ thấy các thay đổi. Những thay đổi bất ngờ có thể yêu cầu đánh giá lại.

Việc vận hành các Nguyên tắc AI dựa trên giá trị sẽ yêu cầu các khoản đầu tư đáng kể về vốn tài chính và chính trị. Ví dụ, AI trong chăm sóc sức khỏe sẽ là một ngành kinh doanh sinh lợi và sẽ cần rất nhiều ý chí chính trị để ban hành luật đảm bảo tính công khai, minh bạch và trách nhiệm giải trình. Ví dụ: một số người ủng hộ rằng dữ liệu sức khỏe cá nhân giống như bất kỳ hàng hóa nào thuộc sở hữu của chủ thể dữ liệu, những người này nên có quyền tự do bán hoặc trao đổi chúng. Mặc dù câu hỏi về quyền sở hữu có thể được tranh luận, nhưng có một chút nghi ngờ rằng việc thương mại hóa dữ liệu y tế như vậy sẽ khuyến khích những người nghèo hơn, có hoàn cảnh khó khăn hơn bán dữ liệu của họ. Ngoài nền tảng đạo đức của quan điểm chính sách như vậy, hoàn toàn từ quan điểm kỹ thuật, điều này sẽ tạo ra sai lệch mẫu trong dữ liệu được sử dụng để đào tạo các mô hình AI. Điều này có thể làm tăng tính đại diện của những bệnh nhân có tình trạng kinh tế xã hội thấp hơn trong các thuật toán AI, nhưng có nhiều cách khác để tăng tính đại diện mà không liên quan đến một nhóm bệnh nhân bán dữ liệu y tế của họ.

Trí tuệ nhân tạo trong chăm sóc sức khỏe

AI là lãnh thổ mới cho các nhà hoạch định chính sách y tế, nhà cung cấp và công chúng. Về mặt thúc đẩy AI đáng tin cậy cho bệnh nhân và cộng đồng, cần phải có một môi trường chính sách thuận lợi cho AI bao gồm phương pháp quản lý rủi ro. Quy định này cho phép các nhà phát triển và nhà cung cấp dịch vụ chăm sóc sức khỏe thử nghiệm và đánh giá các sản phẩm, dịch vụ và mô hình kinh doanh đổi mới trong môi trường trực tiếp với sự giám sát và biện pháp bảo vệ. phù hợp (rào cản các hệ thống y tế rộng lớn hơn khỏi những rủi ro và hậu quả không mong muốn tiềm ẩn).

Nguyên tắc cũng nêu rõ rằng các tác nhân AI nên tạo và xuất bản các chính sách sử dụng AI, đồng thời giúp người dùng, người tiêu dùng và những người khác biết về việc sử dụng AI. Thật đáng khích lệ khi thấy sự đồng thuận rộng rãi về sự cần thiết của các nguyên tắc và giá trị AI, với ít nhất 84 sáng kiến công-tư mô tả các nguyên tắc, giá trị và nguyên tắc cấp cao. để hướng dẫn sự phát triển, triển khai và quản trị đạo đức của AI. Tuy nhiên, vô số khuôn khổ có nguy cơ ảnh hưởng đến hợp tác quốc tế. Các quốc gia có trách nhiệm xây dựng dựa trên một tập hợp các đề xuất giá trị để phát triển và thực hiện các chính sách, quy định và khuôn khổ pháp lý cần thiết. Tính nhất quán giữa các khu vực pháp lý mang lại lợi ích cho tất cả mọi người và những thách thức thực tế và công nghệ đối với một số nguyên tắc AI có lẽ có thể được khắc phục tốt hơn thông qua hợp tác quốc tế để có được AI đáng tin cậy.

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Cho đến nay, chưa có bằng chứng nào cho thấy AI sẽ thay thế con người trong lĩnh vực chăm sóc sức khỏe, nhưng có nhiều ý kiến cho rằng về cơ bản nó sẽ nâng cao nhiệm vụ, kỹ năng và trách nhiệm của con người. Với quy mô mà AI có thể thay đổi bối cảnh chăm sóc sức khỏe, cách thức nhân viên y tế – và thực sự là toàn bộ lực lượng lao động – được giáo dục, đào tạo và xã hội hóa sẽ cần phải thích nghi. Cách tiếp cận sẽ cần phải đa ngành, liên quan đến các nhà phát triển AI, người triển khai, lãnh đạo hệ thống chăm sóc sức khỏe, nhóm lâm sàng tuyến đầu, nhà đạo đức học, nhà nhân văn, bệnh nhân và người chăm sóc, vì mỗi người đều đưa ra quan điểm và kinh nghiệm sống của riêng mình – mỗi người cần được lắng nghe.

Các công việc và nghề nghiệp mới sẽ là cần thiết để nhận ra những lợi ích sức khỏe tiềm năng của AI: huấn luyện viên, phiên dịch viên và người bảo trì. Giảng viên sẽ cung cấp ý nghĩa, mục đích và phương hướng; những người giải thích sẽ sử dụng kiến thức của họ trong cả lĩnh vực kỹ thuật và ứng dụng để giải thích cách các thuật toán AI có thể được tin cậy để hỗ trợ các quyết định; và những người bảo trì sẽ giúp duy trì, giải thích và giám sát hành vi cũng như hậu quả không mong muốn của các hệ thống AI.

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Chuẩn bị hệ thống y tế để quản lý rủi ro và tận dụng tối đa trí tuệ nhân tạo đòi hỏi đầu tư chiến lược dài hạn. Các nguồn lực chiến lược, phối hợp và bền vững là cần thiết để đảm bảo rằng AI dẫn đến các kết quả kinh tế, xã hội và sức khỏe mong muốn và trên một quỹ đạo tương tự như các cuộc cách mạng công nghiệp đã thành công trong quá khứ. vừa qua. Nguồn lực công cộng luôn khan hiếm, nhưng chúng cần được tìm thấy với những cơ hội sâu sắc để mang lại kết quả sức khỏe tốt hơn và công bằng hơn do AI mang lại, đồng thời đóng vai trò là đối trọng với đầu tư tư nhân.

Bên cạnh việc tự phát triển các công cụ AI tiềm năng, chính phủ và các tổ chức công nên dành nguồn lực để phát triển các rào cản nhằm đảm bảo công nghệ có tác dụng tối đa và tác hại tối thiểu – đồng thời kiểm tra và cân bằng để điều khiển khu vực tư nhân đi đúng hướng. Điều này bao gồm việc thiết lập và duy trì các khung chính sách hợp lý, xây dựng năng lực thể chế và con người để xác minh công nghệ AI khi cần thiết, đồng thời sử dụng nó một cách thích hợp và tiết kiệm chi phí.

Đánh giá lợi ích kinh tế của AI và tính ưu việt của nó so với các kỹ thuật thông thường và rẻ hơn, cũng phải là một cân nhắc quan trọng khi so sánh chi phí của AI. Hệ thống y tế quốc gia thường thiếu đầu tư vào hệ thống thông tin do tầm quan trọng hàng đầu của thông tin, truyền thông và kiến thức trong lĩnh vực này. Rõ ràng, phải tìm được không gian tài chính để đầu tư vào việc hướng dẫn AI trong chăm sóc sức khỏe. May mắn thay, việc triển khai trí tuệ nhân tạo thông minh (và rộng hơn là công nghệ kỹ thuật số) mang đến cơ hội giảm lãng phí và mang lại hiệu quả trong một ngành công nghiệp kém hiệu quả và lãng phí. Không giống như thuốc hay thiết bị y tế, AI là công nghệ ‘mục đích chung’ có thể được triển khai trong bất kỳ khía cạnh hoặc hoạt động nào của ngành chăm sóc sức khỏe. Thay vì tạo ra các quy trình hoặc hoạt động mới (mặc dù có những ứng dụng nghiên cứu có giá trị của AI – chẳng hạn như trong việc phát hiện ra các loại thuốc mới), về cơ bản, AI có thể được sử dụng để làm cho các quy trình hành chính và lâm sàng hiệu quả hơn, hiệu quả hơn và công bằng hơn. Với khoảng 1/5 chi tiêu y tế bị lãng phí hoặc thậm chí có hại, đây là cơ hội lớn để cải thiện kết quả và giá trị.

Ứng dụng các nguyên tắc TAI trong vòng đời AI​

Trí tuệ nhân tạo trong chăm sóc sức khỏe

Hekate hoan nghênh mục tiêu xây dựng mối quan tâm và kỳ vọng xung quanh AI. Các công nghệ y tế đang cho phép phòng ngừa, chẩn đoán, điều trị và theo dõi bệnh chính xác hơn, đồng thời sự đổi mới trong lĩnh vực này tiếp tục phát triển nhờ những đột phá trong khoa học và cuộc cách mạng kỹ thuật số, bao gồm cả Trí tuệ nhân tạo (AI). Mặc dù AI trong Chăm sóc sức khỏe ngày nay có thể dựa trên các khung pháp lý hiện có, nhưng có thể có các công nghệ và mô hình AI tự trị, có tính lặp lại cao có thể yêu cầu xây dựng hướng dẫn bổ sung (trung lập về công nghệ) và/hoặc phương pháp tiếp cận theo quy định quốc tế, điều này sẽ tạo điều kiện nhanh chóng được phê duyệt theo quy định thông qua chu kỳ cải tiến sản phẩm và cho phép các thiết bị này liên tục cải tiến để cung cấp các biện pháp bảo vệ hiệu quả

Artificial Intelligent in Healthcare

Hekate cam kết trở thành đối tác hợp tác và đáng tin cậy của các tổ chức y tế trong nỗ lực tạo cơ sở cho việc xây dựng khuôn khổ xã hội toàn diện cho AI. Một chính sách chung về AI phải hướng tới tương lai, năng động và bền vững, khuyến khích tất cả các bên liên quan tham gia vào quá trình phát triển AI cùng nhau hướng tới việc triển khai AI đáng tin cậy ở Việt Nam và hơn thế nữa.

Liên hệ email business@hekate.ai hoặc Facebook Page Hekate để nhận lời khuyên hữu ích về các giải pháp AI.