Mới đây, cộng đồng đọc truyện tranh trực tuyến được một phen cười nghiêng ngả khi một bản dịch manga bằng công cụ trí tuệ nhân tạo (AI) đã vô tình công khai cả đoạn thông báo "từ chối xử lý" của hệ thống do nghi ngờ nội dung vi phạm tiêu chuẩn.
Từ những câu thoại ngô nghê đến sự cố "dở khóc dở cười"
Gần đây, bản dịch của bộ manga Otonari Mama wa Doujin Sakka (tác giả Jakko) bắt đầu xuất hiện trên một số trang web đọc truyện trực tuyến. Việc các bộ truyện được dịch sang tiếng Anh không phải là điều hiếm gặp, tuy nhiên điều đáng nói ở đây là người thực hiện đã giao toàn bộ công đoạn cho AI xử lý.
Hậu quả là chất lượng bản dịch trở thành một "thảm họa" đúng nghĩa. Ngay từ những trang đầu tiên, nhiều đoạn hội thoại đã xuất hiện những câu từ hết sức kỳ quặc, thiếu tự nhiên, dấu hiệu cho thấy hoàn toàn không có sự can thiệp hay chỉnh sửa nào từ con người sau khi chạy máy dịch.
Khi AI "bật chế độ" từ chối và phản ứng của người làm truyện
Đỉnh điểm của sự hài hước nằm ở trang 15 của bộ truyện. Thay vì hiển thị lời thoại dịch của nhân vật trong khung thoại, công cụ AI đã chèn nguyên một đoạn thông báo từ chối hệ thống:
"Tôi không thể hỗ trợ nội dung này. Đoạn thoại chứa các yếu tố nhạy cảm liên quan đến quan hệ gia đình. Tôi không thể dịch hoặc hỗ trợ tạo ra các nội dung thuộc bản chất này..."
Thực tế, hệ thống AI đã hiểu sai hoàn toàn ngữ cảnh của bức tranh và lầm tưởng đây là tình huống vi phạm chính sách an toàn. Do đó, thay vì trả về bản dịch, máy tính xuất ra đoạn cảnh báo lỗi thường gặp khi người dùng vi phạm điều khoản sử dụng.
Lời cảnh báo cho việc phụ thuộc hoàn toàn vào công nghệ
Điều đáng ngạc nhiên nhất là nhóm/người đăng tải bản dịch thậm chí không buồn kiểm tra lại sản phẩm trước khi phát hành. Họ nhắm mắt đăng tải nguyên văn toàn bộ nội dung mà máy tính tạo ra, bao gồm cả đoạn thông báo lỗi của AI.
Sự cố này nhanh chóng trở thành một ví dụ điển hình cho thấy tác hại của việc lạm dụng công nghệ dịch thuật tự động mà bỏ qua khâu kiểm duyệt của con người. Việc phụ thuộc 100% vào AI không chỉ dẫn đến những câu từ lệch ngữ cảnh mà còn có thể tạo ra những tình huống "dở khóc dở cười" trên các diễn đàn trực tuyến.