Bài viết này trình bày những thay đổi quan trọng mà Đạo luật AI của Liên minh châu Âu (EU) sẽ mang lại, bao gồm việc cấm một số ứng dụng AI, yêu cầu minh bạch hơn từ các công ty AI, và quyền khiếu nại của công dân khi bị tổn thương bởi AI.
Những thay đổi quan trọng mà Đạo luật AI của EU sẽ mang lại
( Ảnh: Technologyreview )
Bài viết này sẽ trình bày những thay đổi quan trọng mà Đạo luật AI của Liên minh châu Âu (EU) sẽ mang lại, dựa trên thông tin trong nội dung gốc.
Sau ba năm, Đạo luật AI đã chính thức được thông qua sau khi Quốc hội châu Âu bỏ phiếu tán thành. Điều này đánh dấu sự kết thúc của một giai đoạn đối với tôi cá nhân: tôi là phóng viên đầu tiên có thông tin về dự thảo ban đầu của Đạo luật AI vào năm 2021 và đã theo dõi sát sao cuộc chiến vận động hậu quả kể từ đó.
Tuy nhiên, thực tế là công việc khó khăn bắt đầu từ đây. Đạo luật sẽ có hiệu lực vào tháng 5 và người dân sống tại EU sẽ bắt đầu thấy những thay đổi vào cuối năm nay. Các cơ quan quản lý sẽ cần được thành lập để thực thi đạo luật một cách đúng đắn và các công ty sẽ có từ một đến ba năm để tuân thủ đạo luật.
Một số ứng dụng AI sẽ bị cấm vào cuối năm nay
Đạo luật cấm các trường hợp sử dụng AI có nguy cơ cao đối với quyền cơ bản của con người, chẳng hạn như trong lĩnh vực chăm sóc sức khỏe, giáo dục và lực lượng cảnh sát. Những trường hợp này sẽ bị cấm vào cuối năm nay.
Đạo luật cũng cấm một số ứng dụng được xem là mang đến "nguy cơ không chấp nhận được". Chúng bao gồm một số trường hợp sử dụng AI có chiêu trò "âm thầm, manipulative hoặc gian lận để làm méo mọi quyết định" hoặc lợi dụng những người yếu đuối. Đạo luật AI cũng cấm việc suy luận những đặc điểm nhạy cảm như quan điểm chính trị hoặc tính dục của một người, và việc sử dụng phần mềm nhận dạng khuôn mặt thời gian thực ở nơi công cộng. Việc tạo ra cơ sở dữ liệu nhận dạng khuôn mặt bằng cách thu thập thông tin từ internet giống như Clearview AI cũng sẽ bị cấm.
Tuy nhiên, các cơ quan thực thi pháp luật vẫn được phép sử dụng dữ liệu sinh trắc nhạy cảm cũng như phần mềm nhận dạng khuôn mặt thời gian thực ở nơi công cộng để chống lại các tội phạm nghiêm trọng như khủng bố hoặc bắt cóc. Một số tổ chức quyền công dân, như tổ chức quyền số Access Now, đã gọi Đạo luật AI là "thất bại về quyền con người" vì nó không cấm hoàn toàn các trường hợp sử dụng AI gây tranh cãi như nhận dạng khuôn mặt. Và trong khi các công ty và trường học không được phép sử dụng phần mềm khẳng định có khả năng nhận ra cảm xúc của con người, họ có thể sử dụng nếu điều đó liên quan đến y tế hoặc an toàn.
Việc tương tác với hệ thống AI sẽ rõ ràng hơn
Các công ty công nghệ sẽ được yêu cầu gắn nhãn cho deepfake và nội dung được tạo bởi AI và thông báo cho người dùng khi họ tương tác với chatbot hoặc hệ thống AI khác. Đạo luật AI cũng yêu cầu các công ty phát triển phương tiện được tạo bởi AI theo cách làm cho việc phát hiện được khả thi. Điều này là tin vui trong cuộc chiến chống tin giả và sẽ giúp nghiên cứu về dấu ấn và nguồn gốc nội dung được thúc đẩy.
Tuy nhiên, điều này không dễ dàng như đã nói, và nghiên cứu đang đứng sau những gì quy định yêu cầu. Dấu ấn vẫn là công nghệ thử nghiệm và dễ bị sửa đổi. Việc phát hiện nội dung được tạo bởi AI một cách đáng tin cậy vẫn khó khăn. Một số nỗ lực cho thấy triển vọng, như C2PA, một giao thức internet mã nguồn mở, nhưng cần có nhiều công việc hơn để làm cho các kỹ thuật nguồn gốc đáng tin cậy và xây dựng một tiêu chuẩn ngành rộng rãi.
Công dân có thể khiếu nại nếu họ bị tổn thương bởi AI
Đạo luật AI sẽ thành lập Văn phòng AI châu Âu mới để phối hợp việc tuân thủ, triển khai và thực thi (và họ đang tuyển dụng). Nhờ vào Đạo luật AI, công dân trong EU có thể nộp khiếu nại về các hệ thống AI khi họ nghi ngờ rằng họ đã bị tổn thương và có thể nhận được giải thích về lý do tại sao hệ thống AI đã đưa ra những quyết định như vậy. Đây là một bước quan trọng đầu tiên để mang lại cho con người nhiều quyền tự chủ hơn trong một thế giới ngày càng tự động hóa. Tuy nhiên, điều này đòi hỏi công dân có mức độ hiểu biết AI đáng kể và nhận thức về cách xảy ra những tổn thương từ thuật toán. Đối với hầu hết mọi người, đây vẫn là những khái niệm rất xa lạ và trừu tượng.
Các công ty AI sẽ cần phải minh bạch hơn
Hầu hết các ứng dụng AI sẽ không yêu cầu tuân thủ Đạo luật AI. Chỉ có các công ty AI phát triển công nghệ trong các lĩnh vực "nguy cơ cao" như cơ sở hạ tầng quan trọng hoặc chăm sóc sức khỏe mới có nghĩa vụ mới khi Đạo luật được áp dụng hoàn toàn sau ba năm. Điều này bao gồm việc quản lý dữ liệu tốt hơn, đảm bảo giám sát con người và đánh giá cách hệ thống này sẽ ảnh hưởng đến quyền của con người.
Các công ty AI đang phát triển "mô hình AI mục đích chung", chẳng hạn như các mô hình ngôn ngữ, cũng sẽ cần tạo và duy trì tài liệu kỹ thuật cho thấy họ đã xây dựng mô hình như thế nào, họ tôn trọng luật bản quyền như thế nào và công bố một bản tóm tắt công khai về dữ liệu đào tạo mô hình AI. Điều này là một sự thay đổi lớn so với tình trạng hiện tại, khi các công ty công nghệ giữ bí mật về dữ liệu đã được sử dụng vào mô hình của họ và đòi hỏi một cuộc cải tổ về quản lý dữ liệu lộn xộn của ngành AI.
Kết luận
Trên đây là những thay đổi quan trọng mà Đạo luật AI của EU sẽ mang lại, dựa trên thông tin trong nội dung gốc. Việc tuân thủ và thực thi đạo luật sẽ là một thách thức lớn đối với cả các cơ quan quản lý và các công ty AI. Tuy nhiên, hy vọng rằng Đạo luật AI sẽ tạo ra một môi trường tốt hơn và đảm bảo rằng công nghệ AI được sử dụng một cách đúng đắn và có lợi cho con người.
