Trong một vụ án được xem là đầu tiên ở Trung Quốc, cảnh sát đã bắt giữ một người đàn ông với cáo buộc sử dụng ChatGPT để tạo ra tin tức giả mạo và lan truyền chúng trên mạng. Đây được truyền thông nhà nước mô tả là vụ án hình sự đầu tiên trong quốc gia liên quan đến chatbot AI.
Theo một tuyên bố từ cảnh sát ở tỉnh Cam Túc phía tây bắc, nghi phạm được cho là đã sử dụng ChatGPT để tạo một báo cáo không có thật về một vụ tai nạn tàu hỏa, sau đó anh ta đăng lên mạng để kiếm lời. Cảnh sát cho biết trong tuyên bố hôm Chủ nhật, bài báo đã nhận được khoảng 15.000 lượt xem.
ChatGPT, một mô hình ngôn ngữ phát triển bởi OpenAI và được Microsoft (MSFT) hậu thuẫn, đã bị cấm ở Trung Quốc. Tuy nhiên, người dùng internet có thể sử dụng mạng riêng ảo (VPN) để truy cập vào nó.
Tai nạn tàu hỏa đã trở thành một vấn đề nhạy cảm tại Trung Quốc kể từ năm 2011, khi các nhà chức trách phải đối mặt với áp lực giải thích lý do tại sao truyền thông nhà nước không cung cấp thông tin cập nhật kịp thời về vụ va chạm giữa các tàu cao tốc tại thành phố Ôn Châu, làm 40 người thiệt mạng.
Theo chính quyền Cam Túc, nghi phạm họ Hong đã bị thẩm vấn tại thành phố Đông Quan, tỉnh Quảng Đông, miền nam Trung Quốc vào ngày 5/5. Cảnh sát Cam Túc cho biết: “Hong đã sử dụng công nghệ hiện đại để tạo ra thông tin sai lệch, sau đó lan truyền trên internet và được phổ biến rộng rãi.” Trong tuyên bố, họ cũng nói thêm rằng “Hành vi của anh ta tương tự như việc gây gỗ và tạo ra rối loạn,” nhằm giải thích hành vi phạm tội mà Hong bị buộc tội.
Cảnh sát khám xét căn hộ của nghi phạm ở Đông Quản, tỉnh Quảng Đông, Trung Quốc vào ngày 5 tháng 5 năm 2023.
Luật mới
Theo cảnh sát, đây là vụ bắt giữ đầu tiên xảy ra tại Cam Túc kể từ khi Cục Quản lý Không gian Mạng của Trung Quốc ban hành các quy định mới vào tháng 1 nhằm hạn chế việc sử dụng công nghệ deep fake. Đài truyền hình nhà nước CGTN thông tin rằng đây là vụ bắt giữ đầu tiên trong quốc gia này liên quan đến một người bị cáo buộc sử dụng ChatGPT để tạo ra và lan truyền tin tức giả mạo.
Chính thức được gọi là tổng hợp sâu, deep fake đề cập đến nội dung văn bản và hình ảnh có tính thực tế cao do trí tuệ nhân tạo tạo ra.
Luật mới cấm người dùng tạo nội dung giả sâu về các chủ đề đã bị cấm theo luật hiện hành trên mạng internet bị kiểm duyệt gắt gao của Trung Quốc. Nó cũng phác thảo các thủ tục gỡ bỏ nội dung bị coi là sai hoặc có hại.
Vụ bắt giữ cũng diễn ra trong bối cảnh một chiến dịch kéo dài 100 ngày do chi nhánh internet của Bộ Công an phát động vào tháng 3 nhằm trấn áp việc lan truyền tin đồn trên mạng.
Kể từ đầu năm, các công ty internet lớn tại Trung Quốc như Baidu (BIDU) và Alibaba (BABA) đã nỗ lực để theo kịp OpenAI bằng việc tung ra các phiên bản dịch vụ ChatGPT riêng của họ.
Baidu đã giới thiệu “Wenxin Yiyan” hoặc “ERNIE Bot” vào tháng Ba. Hai tháng sau đó, Alibaba cũng giới thiệu “Tongyi Qianwen”, một công cụ tìm kiếm sự thật bằng cách trả lời hàng nghìn câu hỏi.
Theo dự thảo hướng dẫn mới được ban hành vào tháng trước nhằm thu hút ý kiến phản hồi từ công chúng, cơ quan quản lý không gian mạng của Trung Quốc cho biết các dịch vụ trí tuệ nhân tạo tổng quát sẽ phải trải qua đánh giá bảo mật trước khi được phép hoạt động.
Ngoài ra, các nhà cung cấp dịch vụ cũng sẽ phải xác minh danh tính thực của người dùng và cung cấp thông tin chi tiết về quy mô và loại dữ liệu mà họ sử dụng, các thuật toán cơ bản và thông tin kỹ thuật khác.
Phương Linh – Báo Mỹ
Leave a comment