Trong khi ở nước Mỹ, Ai – trí tuệ nhân tạo đang là một lĩnh vực rất ‘hot’ thu hút đầu tư nghiên cứu, thì EU lại đang cân nhắc và sẽ đưa ra lệnh cấm sử dụng trí tuệ nhân tạo này để giám sát người dùng. EU đang xem xét lại để đưa ra một lệnh cấm một phần những ứng dụng của trí tuệ nhân tạo (AI). Dự thảo rằng lệnh này sẽ được chính thức công bố vào ngày 21 tháng 4 năm nay, theo tờ Politico đưa tin. Tham khảo bài viết này của prawduct.com, để biết thêm nhiều thông tin bổ ích nhé!
EU đề xuất dự thảo
Liên minh châu Âu (EU) đề xuất dự thảo cấm đưa trí tuệ nhân tạo (AI) vào hệ thống tín dụng xã hội và giám sát hàng loạt. Nếu dự thảo được thông qua, EU sẽ khẳng định lập trường mạnh mẽ trong vấn đề AI. Sau đó, các quốc gia thành viên của EU sẽ thành lập hội đồng đánh giá để kiểm tra những hệ thống AI có rủi ro cao. Công ty nào phát triển hoặc bán phần mềm AI bị cấm ở EU có thể bị phạt tới 4% doanh thu toàn cầu. Theo The Verge, các điều luật trong dự thảo yêu cầu cấm các hệ thống AI “giám sát bừa bãi”. Và chấm điểm tín dụng xã hội – một hình thức đánh giá công dân dựa trên hành vi hoặc đặc điểm tính cách.
Không những thế, tổ chức, cơ quan nào muốn sử dụng hệ thống AI. Có khả năng nhận dạng sinh trắc học từ xa như nhận dạng gương mặt sẽ cần sự ủy quyền đặc biệt. Bên cạnh đó, người dân cần được thông báo mỗi khi tương tác với các hệ thống AI. Các hệ thống AI “rủi ro cao”; gây ảnh hưởng trực tiếp đến con người như chế độ tự lái trên ô tô hay hệ thống tuyển dụng nhân sự, chấm điểm công dân… cần được theo dõi sát sao. Dự thảo yêu cầu các hệ thống này phải được đánh giá trước khi đưa vào sử dụng. Đảm bảo chúng đạt chất lượng cao, không sa vào định kiến.
Chỉ là bước đi đầu tiên
Cơ quan lập pháp của Châu Âu có thể sẽ tập trung vào các hệ thống AI “rủi ro cao”. Và có thể phạt các công ty tới 20 triệu euro hoặc 4% doanh thu nếu họ không tuân thủ. “Rủi ro cao” ở đây đề cập đến những việc như: giám sát hàng loạt. Hoặc áp dụng vào hệ thống tín dụng xã hội có thể ảnh hưởng đến an toàn và quyền riêng tư. AI phục vụ những lĩnh vực như sản xuất và năng lượng thì không ảnh hưởng gì.
Các quy định bao gồm:
- Lệnh cấm giám sát: đối với các hệ thống AI Theo dõi mọi người một cách bừa bãi
- Lệnh cấm với các hệ thống chấm điểm tín dụng xã hội nhằm theo dõi hành vi cá nhân. Tác động đến các quyết định tuyển dụng và tư pháp cũng như đánh giá mức độ đáng tin cậy
- Các biện pháp ngăn chặn việc AI kiểm soát con người và thu thập dữ liệu
- Gửi cảnh báo đến người dùng khi tương tác với hệ thống AI
Tuy nhiên, các chuyên gia vẫn nói rằng các quy tắc này là mơ hồ và có nhiều sơ hở. Lệnh cấm xuất hiện trong bối cảnh đầu tư vào công nghệ AI đang được đẩy mạnh ở Mỹ. Ủy ban An ninh Quốc gia về Trí tuệ Nhân tạo gần đây đã kêu gọi $ 32 tỷ. Trong chi tiêu liên bang phi quân sự hàng năm dành cho nghiên cứu AI
AI nào sẽ được xem là rủi ro cao?
Sau cùng, dự thảo đề xuất thành lập Ủy ban Trí tuệ nhân tạo châu Âu. Quy tụ đại diện từ các quốc gia thành viên để giúp ủy ban quyết định hệ thống AI nào sẽ được xem là “rủi ro cao”. Tuy nhiên, các chuyên gia về quyền con người cho rằng dự thảo vẫn còn nhiều điểm phải cải thiện. Daniel Leufer – nhà phân tích chính sách tại Access Now nói với The Verge: “[Dự thảo] có nhiều từ ngữ mơ hồ. Chưa mô tả rõ ràng hệ thống AI nào sẽ bị cấm, sẽ tạo ra lỗ hổng nghiêm trọng khi áp dụng”.
Omer Tene – phó chủ tịch tổ chức phi lợi nhuận IAPP cho rằng nếu đề xuất được thông qua. Sẽ tạo ra “một hệ sinh thái pháp lý rộng lớn”. Ảnh hưởng không chỉ những người tạo ra hệ thống AI. Mà còn gây tác động đến các nhà nhập khẩu, phân phối, người dùng. Kéo theo việc thành lập các cơ quan quản lý ở quy mô quốc gia và trên toàn EU.
Michael Veale – giảng viên tại Đại học College London (Anh) cho rằng hệ sinh thái này sẽ không hạn chế hoạt động của “big tech”. Mà chủ yếu nhắm đến các nhà cung cấp dịch vụ ít phổ biến. Còn các công ty bán những hệ thống AI được dùng rộng rãi giờ đây phải nâng tiêu chuẩn cao hơn. Các nhà hoạch định chính sách của EU sẽ đưa ra thông báo chính thức vào ngày 21.4.
