Ngày 22, Đạo luật cơ bản về việc tạo dựng nền tảng tin cậy và phát triển trí tuệ nhân tạo (gọi tắt là Luật cơ bản về AI) đã chính thức có hiệu lực tại Hàn Quốc. Đây là lần đầu tiên trên thế giới một bộ luật toàn diện, không chỉ dừng lại ở các quy định cục bộ, được áp dụng để quản lý và thúc đẩy lĩnh vực AI.
Trong bối cảnh công nghệ AI đang bước vào giai đoạn bùng nổ, giới phát triển mô hình và dịch vụ AI đang đổ dồn sự chú ý vào các điều khoản có thể tác động trực tiếp đến hoạt động kinh doanh như "trách nhiệm của đơn vị kinh doanh AI có tác động cao" và "nghĩa vụ hiển thị việc sử dụng AI".
Chính phủ Hàn Quốc nhấn mạnh rằng việc thiết lập các chuẩn mực xã hội là cần thiết để bảo vệ cộng đồng khỏi những tác hại của AI tiên tiến như vấn nạn deepfake, phát tán thông tin giả mạo hay vi phạm quyền con người.
Để giảm bớt lo ngại cho doanh nghiệp, cơ quan quản lý cam kết thực hiện lộ trình từng bước một bằng cách tạm hoãn quyền điều tra thực tế và các hình thức xử phạt vi phạm hành chính trong ít nhất một năm. Trọng tâm của bộ luật này là tạo cơ chế để quốc gia hỗ trợ ngành công nghiệp AI phát triển lành mạnh, đồng thời ngăn ngừa các rủi ro từ những ứng dụng AI nguy hiểm.
Về các biện pháp thúc đẩy, Bộ trưởng Bộ Khoa học và Công nghệ Thông tin Hàn Quốc (MSIT) sẽ xây dựng và thực thi kế hoạch cơ bản về AI ba năm một lần nhằm tăng cường năng lực cạnh tranh quốc gia.
Ủy ban Chiến lược AI Quốc gia của Hàn Quốc cũng sẽ được nâng cấp thành ủy ban pháp định. Chính quyền trung ương và địa phương được yêu cầu tôn trọng tinh thần sáng tạo của các đơn vị kinh doanh, hỗ trợ nghiên cứu và phát triển sản phẩm, dịch vụ liên quan.
Song song đó, các quy định kiểm soát được thiết lập nhằm giảm thiểu rủi ro tiềm ẩn đối với đời sống người dân, đồng thời hỗ trợ phát triển kỹ thuật, giáo dục và quảng bá để đảm bảo tính an toàn và tin cậy của AI.
Luật này được xác định là luật khung, có địa vị pháp lý cao nhất và bao trùm các vấn đề về AI, trừ trường hợp có quy định đặc biệt trong các luật khác.
Sự ra đời của Luật cơ bản về AI xuất phát từ thực tế là các bộ luật hiện hành như Đạo luật Kinh doanh Viễn thông hay Đạo luật mạng Thông tin và Truyền thông không còn đủ sức bao quát sự phát triển thần tốc của AI.
Các chuyên gia chỉ ra rằng quy định cấm xâm phạm lợi ích người dùng trong luật viễn thông khó lòng đối phó với các hình thái thiệt hại mới như sự phân biệt đối xử do thuật toán gây ra. Tương tự, luật mạng truyền thông vốn được thiết kế dựa trên tiền đề về "lưu thông" và "công khai" thông tin, nay đã trở nên lạc hậu trước khả năng tạo ra thông tin theo những cách thức mà con người không thể lý giải được của AI.
Trong số các điều khoản, giới doanh nghiệp lo ngại nhất về quy định đối với "AI có tác động lớn", nghĩa vụ đánh dấu watermark và nghĩa vụ giải thích.
"AI có tác động lớn" được định nghĩa là các hệ thống được sử dụng trong lĩnh vực ảnh hưởng lớn đến tính mạng và quyền lợi của người dân như y tế, năng lượng, tuyển dụng hay thẩm định khoản vay. Ở những lĩnh vực này, đơn vị kinh doanh phải thiết lập hệ thống quản lý có sự can thiệp của con người và thực hiện các biện pháp đảm bảo an toàn.
Hiện tại, Chính phủ Hàn Quốc giải thích rằng chỉ những xe tự hành từ cấp độ 4 trở lên mới thuộc diện này, nhưng các doanh nghiệp lo ngại rằng với tốc độ phát triển hiện nay, các dịch vụ y tế hay tuyển dụng bị kiểm soát sẽ sớm xuất hiện trong tương lai gần.
Về nghĩa vụ hiển thị, các sản phẩm hoặc dịch vụ sử dụng AI tạo sinh phải thông báo trước cho người dùng và kết quả đầu ra phải được đánh dấu rõ ràng.
Ngành nội dung đặc biệt lo ngại quy định này vì cho rằng việc dán nhãn "tác phẩm do AI tạo ra" có thể làm giảm giá trị nghệ thuật dù AI chỉ tham gia một phần nhỏ.
Ban đầu, nghị định hướng dẫn cho phép sử dụng siêu dữ liệu (metadata) mà chỉ máy móc mới đọc được, nhưng sau đó đã được siết chặt hơn, yêu cầu phải có thông báo bằng văn bản hoặc âm thanh ít nhất một lần để tránh tình trạng không thể phân biệt được deepfake.
MSIT khẳng định việc đánh dấu watermark là rào cản an toàn tối thiểu và là xu hướng toàn cầu, nhưng sẽ dành một thời gian chuyển tiếp đủ dài.
Một rào cản kỹ thuật khác là "nghĩa vụ giải thích", yêu cầu đơn vị vận hành phải cung cấp giải thích rõ ràng và có ý nghĩa về các tiêu chuẩn chủ chốt được sử dụng để đưa ra kết quả cuối cùng. Tuy nhiên, giới chuyên gia cho rằng đây hiện chỉ là quy định mang tính tuyên bố, bởi kỹ thuật để minh bạch hóa quá trình suy luận phức tạp của AI – vốn được coi là một "hộp đen" – hiện chỉ có rất ít tập đoàn lớn trên thế giới như Google có khả năng thực hiện.
Mặc dù Chính phủ Hàn Quốc đã tạm hoãn các quyền điều tra và phạt tiền lên đến 30 triệu Won để tránh gây cản trở sự phát triển của các doanh nghiệp khởi nghiệp, nhưng sự tồn tại của luật và những khoảng trống trong quy định vẫn gây ra nhiều bất ổn.
Các doanh nghiệp nhỏ và khởi nghiệp lo lắng về chi phí tư vấn pháp lý để tuân thủ bộ luật đồ sộ này.
Ngành game cũng đang rơi vào tình trạng bối rối khi chưa có hướng dẫn cụ thể về cách hiển thị AI đối với các sản phẩm mang tính nghệ thuật và sáng tạo. Trong khi các trò chơi trên nền tảng quốc tế như Steam đã có quy định riêng, thì các nhà phát triển game di động tại Hàn Quốc vẫn chưa rõ phải dán nhãn như thế nào và đến mức độ nào cho hợp lệ.
Chính phủ Hàn Quốc nhấn mạnh rằng việc thiết lập các chuẩn mực xã hội là cần thiết để bảo vệ cộng đồng khỏi những tác hại của AI tiên tiến như vấn nạn deepfake, phát tán thông tin giả mạo hay vi phạm quyền con người.
Để giảm bớt lo ngại cho doanh nghiệp, cơ quan quản lý cam kết thực hiện lộ trình từng bước một bằng cách tạm hoãn quyền điều tra thực tế và các hình thức xử phạt vi phạm hành chính trong ít nhất một năm. Trọng tâm của bộ luật này là tạo cơ chế để quốc gia hỗ trợ ngành công nghiệp AI phát triển lành mạnh, đồng thời ngăn ngừa các rủi ro từ những ứng dụng AI nguy hiểm.
Về các biện pháp thúc đẩy, Bộ trưởng Bộ Khoa học và Công nghệ Thông tin Hàn Quốc (MSIT) sẽ xây dựng và thực thi kế hoạch cơ bản về AI ba năm một lần nhằm tăng cường năng lực cạnh tranh quốc gia.
Ủy ban Chiến lược AI Quốc gia của Hàn Quốc cũng sẽ được nâng cấp thành ủy ban pháp định. Chính quyền trung ương và địa phương được yêu cầu tôn trọng tinh thần sáng tạo của các đơn vị kinh doanh, hỗ trợ nghiên cứu và phát triển sản phẩm, dịch vụ liên quan.
Song song đó, các quy định kiểm soát được thiết lập nhằm giảm thiểu rủi ro tiềm ẩn đối với đời sống người dân, đồng thời hỗ trợ phát triển kỹ thuật, giáo dục và quảng bá để đảm bảo tính an toàn và tin cậy của AI.
Luật này được xác định là luật khung, có địa vị pháp lý cao nhất và bao trùm các vấn đề về AI, trừ trường hợp có quy định đặc biệt trong các luật khác.
Sự ra đời của Luật cơ bản về AI xuất phát từ thực tế là các bộ luật hiện hành như Đạo luật Kinh doanh Viễn thông hay Đạo luật mạng Thông tin và Truyền thông không còn đủ sức bao quát sự phát triển thần tốc của AI.
Các chuyên gia chỉ ra rằng quy định cấm xâm phạm lợi ích người dùng trong luật viễn thông khó lòng đối phó với các hình thái thiệt hại mới như sự phân biệt đối xử do thuật toán gây ra. Tương tự, luật mạng truyền thông vốn được thiết kế dựa trên tiền đề về "lưu thông" và "công khai" thông tin, nay đã trở nên lạc hậu trước khả năng tạo ra thông tin theo những cách thức mà con người không thể lý giải được của AI.
Trong số các điều khoản, giới doanh nghiệp lo ngại nhất về quy định đối với "AI có tác động lớn", nghĩa vụ đánh dấu watermark và nghĩa vụ giải thích.
"AI có tác động lớn" được định nghĩa là các hệ thống được sử dụng trong lĩnh vực ảnh hưởng lớn đến tính mạng và quyền lợi của người dân như y tế, năng lượng, tuyển dụng hay thẩm định khoản vay. Ở những lĩnh vực này, đơn vị kinh doanh phải thiết lập hệ thống quản lý có sự can thiệp của con người và thực hiện các biện pháp đảm bảo an toàn.
Hiện tại, Chính phủ Hàn Quốc giải thích rằng chỉ những xe tự hành từ cấp độ 4 trở lên mới thuộc diện này, nhưng các doanh nghiệp lo ngại rằng với tốc độ phát triển hiện nay, các dịch vụ y tế hay tuyển dụng bị kiểm soát sẽ sớm xuất hiện trong tương lai gần.
Về nghĩa vụ hiển thị, các sản phẩm hoặc dịch vụ sử dụng AI tạo sinh phải thông báo trước cho người dùng và kết quả đầu ra phải được đánh dấu rõ ràng.
Ngành nội dung đặc biệt lo ngại quy định này vì cho rằng việc dán nhãn "tác phẩm do AI tạo ra" có thể làm giảm giá trị nghệ thuật dù AI chỉ tham gia một phần nhỏ.
Ban đầu, nghị định hướng dẫn cho phép sử dụng siêu dữ liệu (metadata) mà chỉ máy móc mới đọc được, nhưng sau đó đã được siết chặt hơn, yêu cầu phải có thông báo bằng văn bản hoặc âm thanh ít nhất một lần để tránh tình trạng không thể phân biệt được deepfake.
MSIT khẳng định việc đánh dấu watermark là rào cản an toàn tối thiểu và là xu hướng toàn cầu, nhưng sẽ dành một thời gian chuyển tiếp đủ dài.
Một rào cản kỹ thuật khác là "nghĩa vụ giải thích", yêu cầu đơn vị vận hành phải cung cấp giải thích rõ ràng và có ý nghĩa về các tiêu chuẩn chủ chốt được sử dụng để đưa ra kết quả cuối cùng. Tuy nhiên, giới chuyên gia cho rằng đây hiện chỉ là quy định mang tính tuyên bố, bởi kỹ thuật để minh bạch hóa quá trình suy luận phức tạp của AI – vốn được coi là một "hộp đen" – hiện chỉ có rất ít tập đoàn lớn trên thế giới như Google có khả năng thực hiện.
Mặc dù Chính phủ Hàn Quốc đã tạm hoãn các quyền điều tra và phạt tiền lên đến 30 triệu Won để tránh gây cản trở sự phát triển của các doanh nghiệp khởi nghiệp, nhưng sự tồn tại của luật và những khoảng trống trong quy định vẫn gây ra nhiều bất ổn.
Các doanh nghiệp nhỏ và khởi nghiệp lo lắng về chi phí tư vấn pháp lý để tuân thủ bộ luật đồ sộ này.
Ngành game cũng đang rơi vào tình trạng bối rối khi chưa có hướng dẫn cụ thể về cách hiển thị AI đối với các sản phẩm mang tính nghệ thuật và sáng tạo. Trong khi các trò chơi trên nền tảng quốc tế như Steam đã có quy định riêng, thì các nhà phát triển game di động tại Hàn Quốc vẫn chưa rõ phải dán nhãn như thế nào và đến mức độ nào cho hợp lệ.
