Công nghệ này đang thay đổi nhiều lĩnh vực, nhưng cũng mang lại những nguy cơ khó lường trên không gian mạng, đặc biệt đối với trẻ em.
Vì sao AI tạo sinh hấp dẫn?
AI tạo sinh mở ra khả năng sáng tạo không giới hạn. Những công cụ như DALL-E có thể vẽ tranh từ mô tả văn bản, hay ChatGPT sáng tác nhạc hoặc viết thơ chỉ trong tích tắc, giúp tiết kiệm thời gian và chi phí.
Không những thế, AI tạo sinh còn là “trợ thủ đắc lực” cho doanh nghiệp trong việc tự động hóa các tác vụ như tạo quảng cáo, thiết kế sản phẩm, soạn thảo email…;
Đồng thời giúp người dùng dịch thuật, viết kịch bản hay xây dựng nhân vật, môi trường ảo hấp dẫn. Thậm chí, bằng cách kết hợp các yếu tố truyền thống và hiện đại, nó có thể tạo ra những tác phẩm độc đáo chưa từng có.
Đặc biệt, AI tạo sinh có khả năng cá nhân hóa nội dung phù hợp với từng người dùng. Nó có thể gợi ý sản phẩm, tạo nội dung hoặc thiết kế riêng cho từng khách hàng, nâng cao trải nghiệm người dùng trên các nền tảng thương mại điện tử và giải trí.
Trong giáo dục, AI tạo sinh tạo tài liệu học tập cá nhân hóa, thiết kế bài giảng phù hợp với từng học sinh và phản hồi tức thì. Công nghệ này tạo ra các tài liệu học tập đa dạng, từ hình ảnh minh họa, đồ họa đến video, giúp trẻ tiếp thu dễ dàng và thêm hứng thú.
AI tạo sinh còn hỗ trợ học sinh khuyết tật hoặc có nhu cầu đặc biệt. Ví dụ: Chuyển văn bản thành giọng nói, tạo nội dung thị giác cho trẻ khiếm thính, hoặc thiết kế bài giảng phù hợp với khả năng riêng của từng em.
Ngoài ra, AI tạo sinh khơi dậy tư duy sáng tạo qua các hoạt động học mà chơi, thúc đẩy khả năng tự học khi trẻ yêu cầu AI giải thích các khái niệm hoặc tạo nội dung liên quan đến môn học.
AI tạo sinh mang đến cơ hội lớn trong giáo dục, từ việc cá nhân hóa học tập, phát triển kỹ năng xã hội đến việc cung cấp các ứng dụng tương tác hấp dẫn. Tuy nhiên, bên cạnh tiềm năng to lớn, công nghệ này cũng tiềm ẩn những rủi ro khó lường, đặc biệt đối với trẻ em.
Những nguy cơ tiềm ẩn
Ông Đỗ Dương Hiển, Chuyên gia bảo vệ trẻ em Tổ chức ChildFund Việt Nam cho biết: “Sự phát triển AI tạo sinh giúp tạo ra các công cụ và ứng dụng hữu ích, từ giáo dục đến giải trí, nhưng cũng tiềm ẩn nhiều rủi ro đặc biệt đối với trẻ em”.
Theo ông Hiển, các công cụ, thuật toán AI của các nhà cung cấp nền tảng có thể cung cấp các nội dung không phù hợp độ tuổi và gây hại cho trẻ.
AI tạo sinh có thể bị sử dụng để tạo ra các thông tin sai lệch hoặc tin giả làm ảnh hưởng nhận thức, hành vi cũng như sự phát triển của trẻ em; có thể bị lạm dụng để chỉnh sửa nội dung xâm hại trẻ em bao gồm cả hình ảnh và video, âm thanh; có thể được sử dụng/lợi dụng phát tán nhanh chóng các nội dung xâm hại trẻ em.
Đối với quyền riêng tư, AI có thể thu thập và sử dụng dữ liệu cá nhân của trẻ em mà không có sự đồng ý của trẻ hoặc của phụ huynh. Mặt khác, các công cụ AI có thể theo dõi hoạt động của trẻ em như thời gian truy cập, sở thích và thói quen, dẫn đến các lo ngại về quyền riêng tư.
Không những thế, AI cũng có thể gây nên sự phân biệt đối xử khi thu thập và sử dụng dữ liệu lớn (Big Data) ở nơi tồn tại các định kiến về giới hay phân biệt chủng tộc và khuyết tật…
AI tạo sinh có thể khiến trẻ em thay đổi thói quen, phụ thuộc vào công nghệ, giảm tương tác và kỹ năng xã hội, ảnh hưởng đến nhận thức và phát triển.
Ông Đặng Vũ Sơn, Phó Chủ tịch Hiệp hội An toàn thông tin Việt Nam (VNISA), nhận định: “Trong bối cảnh công nghệ phát triển mạnh mẽ, nguy cơ rủi ro về an toàn, bảo mật thông tin càng rõ nét, đặc biệt khi trẻ chưa đủ kỹ năng nhận diện và phòng tránh”.
Bảo vệ trẻ em trước những rủi ro từ AI tạo sinh
Để bảo vệ trẻ em trước những rủi ro từ AI tạo sinh trên môi trường mạng, có chiến lược toàn diện với sự phối hợp của gia đình, trường học, nhà phát triển công nghệ và các cơ quan quản lý nhà nước.
Giáo dục kỹ năng số: Dạy trẻ nhận biết các nội dung độc hại, thông tin sai lệch, cách ứng xử an toàn trên mạng; hướng dẫn trẻ cách kiểm tra độ tin cậy của nguồn thông tin.
Đồng thời, cung cấp các khóa học về công nghệ và AI để phụ huynh, giáo viên hỗ trợ trẻ tốt hơn.
Thiết lập môi trường mạng an toàn cho trẻ: Các bậc cha mẹ có thể cài đặt phần mềm kiểm soát để lọc nội dung không phù hợp và giới hạn thời gian sử dụng.
Đảm bảo quyền riêng tư và bảo mật: Hướng dẫn trẻ không chia sẻ thông tin cá nhân (tên, địa chỉ, số điện thoại, hình ảnh lên mạng), cài đặt bảo mật trên các thiết bị và tài khoản mạng xã hội. Khi cài đặt các ứng dụng AI tạo sinh, hãy lựa chọn các ứng dụng tuân thủ quy định bảo vệ dữ liệu.
Xây dựng kỹ năng phản biện và tự bảo vệ: Thầy cô và cha mẹ hướng dẫn trẻ phân biệt thông tin đúng – sai; cách phát hiện các nội dung giả mạo do AI tạo ra; tạo môi trường thoải mái để trẻ cảm thấy an toàn khi chia sẻ những vấn đề gặp phải trên mạng.
Thúc đẩy trách nhiệm của nhà phát triển công nghệ: Các công ty công nghệ AI cần thiết kế hệ thống kiểm duyệt chặt chẽ, phát hiện và ngăn chặn nội dung độc hại hoặc không phù hợp với trẻ em, cung cấp phiên bản ứng dụng hoặc công cụ AI dành riêng cho trẻ em với nội dung được kiểm soát nghiêm ngặt.
Tăng cường kiểm tra, giám sát: Các cơ quan chức năng cần chỉ đạo thực hiện nghiêm các quy định về bảo vệ quyền riêng tư và an toàn cho trẻ em trên mạng; xử lý nghiêm các vi phạm.
Đối với các tổ chức xã hội, cần tổ chức các chiến dịch truyền thông phổ biến kiến thức về an toàn mạng và AI cho người dân; đầu tư nghiên cứu phát triển AI thân thiện và an toàn cho trẻ em.
Thanh Huyền
Ấn phẩm Vì trẻ em số 23