Hekate is a pioneering Artificial Intelligence company founded in 2016 with the mission of “Bringing the benefits of AI to everyone”. We research and develop artificial intelligence in areas such as: Natural Language, Computer Vision, Machine Learning, Big Data Analytics
Việc sử dụng trí tuệ nhân tạo vì sức khỏe làm dấy lên quan điểm AI thay thế các bác sĩ lâm sàng và việc ra quyết định của con người. Chẩn đoán dựa trên dự đoán và chẩn đoán AI đang được coi là công cụ hỗ trợ chẩn đoán theo một số cách, bao gồm cả X quang và hình ảnh y tế. Hiện tại, trí tuệ nhân tạo đang được đánh giá để sử dụng trong chẩn đoán X quang trong ung thư (chụp ảnh lồng ngực, bụng và vùng chậu, nội soi đại tràng, chụp nhũ ảnh, chụp não và tối ưu hóa liều xạ trị), trong các ứng dụng không dùng X quang (da liễu, bệnh lý), trong chẩn đoán các bệnh lý ung thư, bệnh võng mạc tiểu đường, trong nhãn khoa, và giải trình tự RNA và DNA để hướng dẫn liệu pháp miễn dịch. Trong các các quốc gia đang phát triển (LMIC), AI có thể được sử dụng để cải thiện khả năng phát hiện bệnh lao trong một hệ thống hỗ trợ giải thích các hình ảnh nhuộm màu hoặc quét tia X để tìm các dấu hiệu của bệnh lao, COVID-19 hoặc 27 tình trạng bệnh khác
Khi AI được cải thiện, nó có thể cho phép các nhà cung cấp dịch vụ y tế đưa ra chẩn đoán nhanh hơn, chính xác hơn. AI có thể được sử dụng để phát hiện kịp thời các tình trạng như đột quỵ, viêm phổi, ung thư vú bằng cách chụp ảnh bệnh tim mạch vành bằng siêu âm tim và phát hiện ung thư cổ tử cung. Nhiều cơ sở có thu nhập thấp đang phải đối mặt với tình trạng thiếu nhân viên y tế thường xuyên, những người cần hỗ trợ chẩn đoán và đánh giá cũng như để giảm bớt khối lượng công việc của họ. Có ý kiến cho rằng AI có thể lấp đầy khoảng trống khi thiếu dịch vụ chăm sóc sức khỏe hoặc công nhân lành nghề. AI có thể được sử dụng để dự đoán bệnh tật hoặc các sự kiện sức khỏe lớn trước khi chúng xảy ra. Ví dụ, một công nghệ AI có thể được điều chỉnh để đánh giá nguy cơ mắc bệnh tương đối có thể được sử dụng để ngăn ngừa các bệnh do lối sống như bệnh tim mạch và tiểu đường. Phân tích dự đoán có thể ngăn ngừa các nguyên nhân khác gây bệnh tật và tử vong không cần thiết ở các nước LMIC, chẳng hạn như ngạt khi sinh. Việc sử dụng AI rộng rãi hơn trong y học cũng đặt ra những thách thức về công nghệ. Mặc dù nhiều nguyên mẫu được phát triển ở cả khu vực công và tư nhân đã hoạt động tốt trong các thử nghiệm thực địa, nhưng chúng thường không thể dịch, thương mại hóa hoặc triển khai. Một trở ngại khác là những thay đổi liên tục trong quản lý máy tính và công nghệ thông tin, theo đó các hệ thống trở nên lỗi thời và các công ty biến mất. Ở các quốc gia nghèo tài nguyên, việc thiếu cơ sở hạ tầng kỹ thuật số và khoảng cách kỹ thuật số sẽ hạn chế việc sử dụng các công nghệ đó.
Nhân viên y tế sẽ phải điều chỉnh đáng kể thực hành lâm sàng của họ khi việc sử dụng AI tăng lên. AI có thể tự động hóa các nhiệm vụ, giúp bác sĩ có thời gian lắng nghe bệnh nhân, giải quyết nỗi sợ hãi và lo lắng của họ, đồng thời hỏi về các yếu tố xã hội không liên quan, mặc dù họ vẫn có thể lo lắng về trách nhiệm và trách nhiệm giải trình của mình. Các bác sĩ sẽ phải cập nhật khả năng truyền đạt rủi ro, đưa ra dự đoán và thảo luận về sự đánh đổi với bệnh nhân, đồng thời bày tỏ mối quan tâm về đạo đức và pháp lý của họ về việc hiểu công nghệ AI. Ngay cả khi công nghệ tạo ra những lợi ích có thể dự đoán được, thì những lợi ích đó sẽ chỉ thành hiện thực nếu các cá nhân quản lý hệ thống y tế sử dụng chúng để mở rộng khả năng của hệ thống y tế trong các lĩnh vực khác, chẳng hạn như nguồn cung cấp thuốc tốt hơn hoặc các hình thức chăm sóc hoặc can thiệp lâm sàng được chỉ định khác.
Sự chuyển đổi từ bệnh viện sang chăm sóc tại nhà Y tế từ xa là một phần trong quá trình chuyển đổi lớn hơn từ chăm sóc tại bệnh viện sang chăm sóc tại nhà, với việc sử dụng các công nghệ AI để tạo điều kiện thuận lợi cho việc chăm sóc bệnh nhân. Ngay cả trước khi xảy ra đại dịch COVID-19, hơn 50 hệ thống chăm sóc sức khỏe ở Hoa Kỳ đã sử dụng dịch vụ y tế từ xa. COVID-19 khiến người dân ở nhiều nơi không muốn đến các cơ sở chăm sóc sức khỏe, đã thúc đẩy và mở rộng việc sử dụng y tế từ xa vào năm 2020, và xu hướng này dự kiến sẽ tiếp tục. Tại Trung Quốc, số lượng nhà cung cấp dịch vụ y tế từ xa đã tăng gần gấp bốn lần trong đại dịch. Việc chuyển sang chăm sóc tại nhà cũng được tạo điều kiện thuận lợi một phần nhờ việc tăng cường sử dụng các công cụ tìm kiếm (thuật toán) để tìm thông tin y tế cũng như tăng số lượng chatbot văn bản hoặc giọng nói cho chăm sóc sức khỏe, hiệu suất của chúng đã được cải thiện nhờ những cải tiến về ngôn ngữ tự nhiên xử lý, một dạng AI cho phép máy hiểu ngôn ngữ của con người. Việc sử dụng chatbot cũng tăng tốc trong đại dịch COVID-19. Hơn nữa, các công nghệ AI có thể đóng vai trò tích cực hơn trong việc quản lý sức khỏe bệnh nhân bên ngoài môi trường lâm sàng, chẳng hạn như trong “các can thiệp thích ứng đúng lúc”. Các hoạt động này dựa vào các cảm biến để cung cấp cho bệnh nhân các biện pháp can thiệp cụ thể theo dữ liệu đã thu thập trước đó và hiện tại; họ cũng thông báo cho nhà cung cấp dịch vụ chăm sóc sức khỏe về bất kỳ mối lo ngại mới nổi nào.
Việc phát triển và sử dụng các cảm biến và thiết bị đeo được có thể cải thiện hiệu quả của “các biện pháp can thiệp thích ứng đúng lúc” nhưng cũng gây lo ngại về lượng dữ liệu mà các công nghệ này đang thu thập, cách chúng được sử dụng và gánh nặng của những công nghệ đó có thể khác nhau đối với bệnh nhân. Việc sử dụng AI để mở rộng dịch vụ chăm sóc “lâm sàng” ngoài chăm sóc sức khỏe chính quy Các ứng dụng AI trong chăm sóc sức khỏe không còn được sử dụng riêng trong các hệ thống chăm sóc sức khỏe (hoặc chăm sóc tại nhà) vì các hệ thống phi chăm sóc sức khỏe có thể dễ dàng mua và sử dụng các công nghệ AI về sức khỏe.
Điều này có nghĩa là giờ đây mọi người có thể nhận các dịch vụ chăm sóc sức khỏe bên ngoài hệ thống chăm sóc sức khỏe. Ví dụ: các ứng dụng AI cho sức khỏe tâm thần thường được cung cấp thông qua các hệ thống giáo dục, nơi làm việc và phương tiện truyền thông xã hội, thậm chí có thể được liên kết với các dịch vụ tài chính. Mặc dù có thể có hỗ trợ cho việc mở rộng sử dụng các ứng dụng y tế như vậy để bù đắp cho cả nhu cầu gia tăng và số lượng nhà cung cấp hạn chế, nhưng chúng đặt ra những câu hỏi và mối quan tâm mới.
Ba xu hướng này có thể yêu cầu mọi người phải theo dõi (và tự theo dõi) gần như liên tục, ngay cả khi họ không bị bệnh (hoặc “bệnh nhân”). Các công nghệ do AI hướng dẫn yêu cầu sử dụng các ứng dụng sức khỏe di động và thiết bị đeo, đồng thời việc sử dụng chúng đã tăng lên theo hướng tự quản lý. Công nghệ đeo được bao gồm những thứ được đặt trong cơ thể (bộ phận giả, cấy ghép thông minh), trên cơ thể (miếng dán bơm insulin, máy ghi điện não đồ) hoặc gần cơ thể (màn hình), thiết bị theo dõi hoạt động, đồng hồ thông minh và kính thông minh). Đến năm 2025, 1,5 tỷ thiết bị đeo có thể được mua hàng năm. Thiết bị đeo sẽ tạo ra nhiều cơ hội hơn để theo dõi sức khỏe của một người và thu thập nhiều dữ liệu hơn để dự đoán rủi ro về sức khỏe, thường với hiệu quả cao hơn và theo cách nhanh hơn. Mặc dù việc theo dõi những cá nhân “khỏe mạnh” như vậy có thể tạo ra dữ liệu để dự đoán hoặc phát hiện các rủi ro sức khỏe hoặc cải thiện việc điều trị cho một người khi cần thiết, nhưng điều này gây lo ngại vì nó cho phép theo dõi gần như liên tục và thu thập quá nhiều dữ liệu mà nếu không thì sẽ không biết hoặc không được thu thập. Việc thu thập dữ liệu như vậy cũng góp phần vào thực tiễn ngày càng tăng của “giám sát sinh học”, một hình thức theo dõi dữ liệu sức khỏe và sinh trắc học khác, chẳng hạn như đặc điểm khuôn mặt, dấu vân tay, nhiệt độ và mạch. Sự phát triển của giám sát sinh học làm dấy lên những lo ngại đáng kể về đạo đức và pháp lý, bao gồm cả việc sử dụng dữ liệu đó cho các mục đích y tế và phi y tế mà có thể không nhận được sự đồng ý. Mục đích rõ ràng hoặc việc chính phủ hoặc công ty sử dụng lại dữ liệu đó cho các mục đích phi y tế, chẳng hạn như trong hệ thống tư pháp hình sự hoặc nhập cư. Do đó, những dữ liệu đó phải tuân theo cùng mức độ bảo vệ và bảo mật dữ liệu như những dữ liệu được thu thập trên một cá nhân trong môi trường chăm sóc sức khỏe chính thức. Sử dụng AI để phân bổ và ưu tiên tài nguyên AI đang được sử dụng để hỗ trợ việc ra quyết định về ưu tiên hoặc phân bổ các nguồn lực khan hiếm. Hệ thống tính điểm tiên lượng từ lâu đã có sẵn trong các đơn vị chăm sóc quan trọng.
Việc triển khai AI trong lĩnh vực y tế làm trầm trọng thêm những lo ngại về đạo đức hiện có trong y học và làm nảy sinh những vấn đề mới. Những thách thức đạo đức liên quan bao gồm tính minh bạch, trách nhiệm giải trình, thiên vị, quyền riêng tư, an toàn, quyền tự chủ và công lý. Chúng tôi coi bảy thách thức đạo đức này là mối lo ngại cấp bách nhất do việc sử dụng AI trong chăm sóc sức khỏe tạo ra. Một số thách thức này cũng đã được đặt ra khi việc sử dụng AI ngày càng tăng trong các lĩnh vực ứng dụng khác, đặc biệt là trong lĩnh vực tự động hóa và người máy.
Việc triển khai AI trong lĩnh vực y tế làm trầm trọng thêm những lo ngại về đạo đức hiện có trong y học và làm nảy sinh những vấn đề mới. Những thách thức đạo đức liên quan bao gồm tính minh bạch, trách nhiệm giải trình, thiên vị, quyền riêng tư, an toàn, quyền tự chủ và công lý. Chúng tôi coi bảy thách thức đạo đức này là mối lo ngại cấp bách nhất do việc sử dụng AI trong chăm sóc sức khỏe tạo ra. Một số thách thức này cũng đã được đặt ra khi việc sử dụng AI ngày càng tăng trong các lĩnh vực ứng dụng khác, đặc biệt là trong lĩnh vực tự động hóa và người máy.
Các thiết bị chăm sóc sức khỏe dựa trên AI thường là hộp đen do tính chất độc quyền của các thuật toán AI. Điều này đặt ra câu hỏi làm thế nào các bác sĩ có thể minh bạch với bệnh nhân của họ khi làm việc với các hệ thống vốn không hoàn toàn minh bạch. Nếu các bác sĩ không thể giải thích cách một thiết bị AI chăm sóc sức khỏe đưa ra quyết định cho một bệnh nhân cụ thể, thì họ nên dựa vào những giải pháp này ở mức độ nào? Cân nhắc sử dụng Watson for Oncology được sử dụng rộng rãi ở Trung Quốc để chẩn đoán sức khỏe thông qua nhận dạng hình ảnh. Sau đó, người ta phát hiện ra rằng các thuật toán AI cơ bản chủ yếu được đào tạo trên bộ dữ liệu phương Tây dẫn đến kết quả kém cho bệnh nhân Trung Quốc so với bệnh nhân phương Tây. Do đó, tính minh bạch (và “AI có thể hiểu được”) là rất quan trọng để ngăn chặn chẩn đoán sai hệ thống và các kết quả không mong muốn khác. Nhưng ngay cả các nhà phát triển cũng có thể gặp khó khăn khi giải thích lý do tại sao các thuật toán AI phức tạp của họ lại hoạt động theo cách của họ. Khi các bệnh viện mua các thiết bị chăm sóc sức khỏe AI hộp đen này với một số tiền đáng kể và khuyến khích các bác sĩ của họ sử dụng chúng, làm thế nào các bác sĩ có thể làm như vậy một cách có đạo đức?
Trong hệ thống chăm sóc sức khỏe dựa trên thiết bị y tế được điều khiển bởi AI, một công cụ AI đơn lẻ có thể liên quan đến nhiều người và tổ chức để thiết kế phần cứng máy gia tốc AI, thuật toán AI, thu thập và môi giới tập dữ liệu đào tạo cũng như xử lý dữ liệu trước/sau, khiến việc phân định trách nhiệm minh bạch này rất khó khăn.
Chuỗi các bên liên quan thông qua các giải pháp chăm sóc sức khỏe AI đa dạng, chẳng hạn như trợ lý điều dưỡng ảo do AI điều khiển bằng phần mềm có thể được truy cập trên các nền tảng kết nối Internet khác nhau hoặc bác sĩ phẫu thuật robot dựa trên AI kết hợp phần cứng, phần mềm và đồng thiết kế của họ, điều này có thể phức tạp và khó nhận ra. Hệ sinh thái toàn cầu ngày nay về chế tạo phần cứng thuê ngoài, thiết kế phần mềm, thử nghiệm hệ thống và hỗ trợ khách hàng khiến nhiều giải pháp chăm sóc sức khỏe dựa trên AI mới nổi trở nên khó khăn hơn.
Nếu các thuật toán AI được đào tạo dựa trên dữ liệu sai lệch, chúng có thể dẫn đến sự chênh lệch gia tăng trong chăm sóc sức khỏe. Ví dụ: một bác sĩ có thể bỏ sót khối u ác tính ở đầu hạt ở bệnh nhân Da đen, đây là một dạng u ác tính phổ biến ở những người có làn da sẫm màu, vì họ tin tưởng vào thuật toán AI để sàng lọc ung thư phần lớn được đào tạo trên da trắng. Thuật toán đã chỉ định sai mức độ rủi ro giống nhau cho bệnh nhân Da đen và Da trắng, mặc dù bệnh nhân Da đen trong bộ dữ liệu ốm yếu hơn nhiều. Vì chi tiêu liên quan đến chăm sóc sức khỏe của bệnh nhân Da đen thấp hơn nên thuật toán đã kết luận sai rằng bệnh nhân Da đen khỏe mạnh hơn. Các thuật toán AI cũng có thể học cách ưu tiên những bệnh nhân mà họ dự đoán sẽ có kết quả tốt hơn đối với một căn bệnh cụ thể, điều này một lần nữa có thể có tác động phân biệt đối xử đối với các cộng đồng có điều kiện kinh tế kém hơn. Các nhà phát triển AI nên làm thế nào để giảm thiểu sự thiên vị như vậy? Và làm thế nào các bác sĩ nên đối phó với sự thiên vị trong các thuật toán AI hộp đen, một cách phản ứng và chủ động? Đây là những mối quan tâm đạo đức quan trọng phải được giải quyết.
Việc thu thập dữ liệu khổng lồ từ các thiết bị đeo được và ứng dụng sức khỏe tạo ra nhiều cơ hội xâm phạm quyền riêng tư của bệnh nhân. Vào năm 2017, UCMC và Google đã thiết lập quan hệ đối tác để sử dụng AI để dự đoán các sự kiện y tế, chẳng hạn như nhập viện. Từ năm 2009 đến 2016, Dinerstein tuyên bố rằng UCMC đã chuyển hàng trăm nghìn hồ sơ y tế cho Google mà không có sự đồng ý rõ ràng của bệnh nhân. Tuy nhiên, một thẩm phán liên bang đã bác bỏ vụ kiện vào năm 2020 với lý do Dinerstein không chứng minh được thiệt hại. Trường hợp này nêu bật việc bảo vệ quyền riêng tư dữ liệu sức khỏe không đầy đủ và những thách thức trong việc bảo vệ quyền riêng tư với các sản phẩm chăm sóc sức khỏe do AI cung cấp được hỗ trợ bởi các tổ chức và công ty. Những gã khổng lồ công nghệ có thể điều hành các đội pháp lý mạnh mẽ.
Các thuật toán AI trong các sản phẩm chăm sóc sức khỏe không được gây hại. Nếu một bệnh nhân bị đau ngực được thuật toán AI chẩn đoán là mắc bệnh trào ngược dạ dày thực quản (trào ngược axit) và khuyến cáo dùng thuốc kháng axit, trong khi thực tế họ đang bị đau tim thì điều này là không thể chấp nhận được. FDA đã bắt đầu điều chỉnh các sản phẩm chăm sóc sức khỏe dựa trên phần mềm và đang nỗ lực phát triển một chương trình chứng nhận trước phần mềm để đảm bảo tính an toàn và hiệu quả của chúng. Hơn nữa, nhiều thuật toán AI hiện đang được sử dụng không được FDA xem xét, chẳng hạn như một số phần mềm hỗ trợ quyết định lâm sàng dựa trên AI và nhiều ứng dụng chăm sóc sức khỏe và chatbot. Do đó, an toàn với AI trong chăm sóc sức khỏe vẫn là một thách thức mở. Nếu các bác sĩ sử dụng các sản phẩm chăm sóc sức khỏe dựa trên AI để xác định kế hoạch điều trị, bệnh nhân có quyền được thông báo rằng AI là một phần của quá trình ra quyết định không? Bệnh nhân có cần được thông báo về bộ dữ liệu được sử dụng để huấn luyện AI không và liệu nó dựa trên dữ liệu hồ sơ sức khỏe thực hay dữ liệu tổng hợp? Điều quan trọng là phải xác định sự đồng ý có hiểu biết với AI sẽ như thế nào đối với bệnh nhân và nó sẽ mở rộng ra sao đối với sự đồng ý điều trị chung mà bệnh nhân ký ngày hôm nay trong bối cảnh y tế. Vì các quyết định do thuật toán AI đưa ra thường vô hình nên nó chỉ làm phức tạp các quyết định liên quan đến việc phân bổ nguồn lực y tế. Nhiều bệnh nhân dễ bị tổn thương nhất có thể không được tiếp cận với các công cụ và thiết bị chăm sóc sức khỏe dựa trên AI để chẩn đoán và điều trị.
Từ góc độ đạo đức, một số chủ đề bao quát đã xuất hiện. Đầu tiên, vấn đề về sự đồng ý xuyên suốt toàn bộ tác phẩm này. Điều này không có gì đáng ngạc nhiên vì tầm quan trọng cốt yếu của khái niệm đồng ý trong đạo đức y sinh và sự tương tác của nó với nguyên tắc trung tâm của quyền tự chủ cá nhân. Những thách thức mà chúng tôi nêu ra liên quan đến mối quan hệ con người trong chăm sóc sức khỏe, việc sử dụng dữ liệu bệnh nhân, hậu quả của việc thiếu tính minh bạch trong thuật toán, trách nhiệm giải trình đối với các lỗi và mọi định nghĩa về lòng tin đều liên quan đến sự đồng ý theo một cách nào đó. Một câu hỏi cấp cao có thể được đặt ra là “làm thế nào để chúng ta đồng ý một cách có ý nghĩa với việc sử dụng AI để cung cấp dịch vụ, khi có thể có yếu tố tự chủ trong các quyết định về AI hoặc khi chúng ta không hiểu đầy đủ những quyết định này?” Một chủ đề chính khác mà những thách thức mà chúng tôi đã xác định có thể được đề cập đến là vấn đề công bằng. Điều này đặc biệt liên quan đến các vấn đề chúng ta thảo luận xung quanh sự bất bình đẳng về sức khỏe, điều mà bệnh nhân và công chúng muốn từ những công nghệ này, đồng thời đảm bảo giá trị cho các bên liên quan trong suốt quá trình phát triển và triển khai các thuật toán AI. Ba nguyên tắc chung về công bằng phân phối (trách nhiệm, khả năng và nhu cầu) có phải là hướng dẫn hữu ích để giúp giải quyết những vấn đề này không? Những nguyên tắc này có thể giải thích được, điều đó có nghĩa là có thể cần phải xem xét các cách tiếp cận mới đối với công bằng, đặc biệt là do tính chất thay đổi nhanh chóng của các công nghệ này.
Liên quan mật thiết đến khái niệm công bằng là khái niệm về quyền. Các khuôn khổ quốc tế khác nhau đề cập đến tiêu chuẩn sức khỏe tối thiểu mà tất cả các cá nhân đều được hưởng, bao gồm Điều 25 của Tuyên ngôn Nhân quyền của Liên Hợp Quốc, Điều 12 của Công ước Quốc tế của Liên Hợp Quốc về các Quyền Kinh tế, Xã hội và Văn hóa, và lời nói đầu của Hiến pháp Tổ chức Y tế Thế giới. Với việc bổ sung các công nghệ AI vào các lộ trình chăm sóc, hoặc có khả năng là sự phụ thuộc ngày càng tăng vào các khía cạnh chăm sóc do AI cung cấp một cách tự động, một diễn ngôn mới về các quyền có thể xuất hiện, đặt câu hỏi “mọi người có quyền biết lượng AI được sử dụng trong công việc của họ không? quan tâm?” và “mọi người có quyền không để AI tham gia vào việc chăm sóc của họ không?” Về cốt lõi, vấn đề này đề cập đến việc liệu ‘quyền được chăm sóc sức khỏe’ có đồng nghĩa với ‘quyền được cung cấp dịch vụ chăm sóc sức khỏe cho con người’ hay không. Điều cần thiết là nghiên cứu tập trung vào những thách thức đạo đức, xã hội và chính trị này phải đa ngành, dựa trên kiến thức chuyên môn của những người phát triển các công cụ AI, những người sẽ sử dụng và bị ảnh hưởng bởi các công cụ này cũng như những người có kiến thức và kinh nghiệm giải quyết các vấn đề khác. những thách thức lớn về đạo đức, xã hội và chính trị trong y tế. Quan trọng nhất, điều quan trọng là tiếng nói của bệnh nhân và người thân của họ được lắng nghe, và nhu cầu của họ – lâm sàng, mục vụ, tâm linh, v.v. – được ghi nhớ trong tất cả các giai đoạn của nghiên cứu đó. Chỉ bằng cách phát triển các công cụ đáp ứng nhu cầu của bệnh nhân và bác sĩ trong thế giới thực, đồng thời giải quyết các thách thức của bệnh nhân và bác sĩ trong thế giới thực thì cơ hội của trí tuệ nhân tạo và các công nghệ liên quan mới có thể được tối đa hóa, trong khi rủi ro được giảm thiểu.
Liên hệ email business@hekate.ai hoặc Facebook Page Hekate để nhận lời khuyên hữu ích về các giải pháp AI.