Cơ quan Cảnh sát quốc gia Hàn quốc ngày 5/3 cho biết đang phát triển phần mềm phát hiện video ứng dụng "Deepfake", công nghệ lồng ghép khuôn mặt và giọng nói của người này vào người khác bằng trí tuệ nhân tạo (AI). Phía Cảnh sát giải thích lý do phát triển phần mềm này là vì công nghệ trí tuệ nhân tạo đang phát triển nhanh chóng, và mối uy hiếp từ những tội phạm sử dụng Deepfake ngày càng lớn hơn.

Cảnh sát cho biết nếu tải một video bị nghi ngờ là có sử dụng công nghệ Deepfake, thì phần mềm sẽ xác định xem đó có phải là video giả mạo hay không chỉ trong vòng khoảng từ 5 đến 10 phút. 

Khác với các phần mềm hiện có được xây dựng dựa trên thông tin chủ yếu là người phương Tây, công nghệ mà phía Cảnh sát phát triển được thực hiện trên 5,2 triệu mẫu thông tin cá nhân, trong đó có 1 triệu mẫu thông tin về người Hàn Quốc. Tuy nhiên, tỷ lệ phát hiện mới đạt khoảng 80%, tức vẫn dưới 100%, nên phía Cảnh sát có kế hoạch sẽ sử dụng làm tài liệu để thiết lập phương hướng điều tra thay vì làm bằng chứng. 

Liên quan đến tội phạm bầu cử dùng các video ứng dụng công nghệ Deepfake, Cảnh sát sẽ giảm thiểu khả năng phát hiện nhầm lẫn bằng cách kiểm chứng chéo bởi một Ủy ban tư vấn tư nhân, bao gồm các chuyên gia về trí tuệ nhân tạo thuộc giới học giả, doanh nghiệp. 

Cơ quan Cảnh sát quốc gia có kế hoạch sẽ nâng cấp phần mềm để tăng tỷ lệ phát hiện, chủ động đối phó với nhiều loại tội phạm sử dụng công nghệ Deepfake, bên cạnh những tội phạm bầu cử và tội phạm phát tán video tình dục. ​