Việc áp dụng công nghệ AI tự phát triển, Facebook có thể xác định nhanh chóng và đưa ra cảnh báo những người dùng có ý định tự tử qua những dòng trạng thái, video được chia sẻ hoặc thậm chí cả video LiveStream.
Mạng xã hội lớn nhất thế giới Facebook hiện có hơn 2 tỷ thành viên và nó cho phép tất cả mọi người biết rõ về tâm trạng hay tình cảm của từng người người dùng còn nhiều hơn cả những người thân bên cạnh họ. Không chỉ là nơi trò chuyện, chia sẻ cảm xúc mà Facebook hiện nay còn là nơi tự tử công khai của rất nhiều ngươi, đặc biệt là thanh niên.
Vấn nạn tự tử cũng như live stream cảnh tự vẫn tồi tệ đến mức Facebook đã cho phép người dùng báo cáo những bạn bè mà họ nghĩ là đang ở trong tình trạng nguy hiểm.
Để giải quyết tình trạng đáng báo động này, Facebook vừa ra thông báo triển khai công nghệ trí tuệ nhân tạo (AI) để phát hiện những bài, video hay live stream có chứa những nội dung mang tư tưởng tự tử. việc sử dụng bot AI rõ ràng sẽ giúp công ty sớm xác định các trường hợp nghi vấn nhanh hơn nhiều.
Thực chất, Facebook có một đội ngũ chuyên giám sát các báo cáo về nội dung có liên quan đến tự tử. Facebook cho biết họ sử dụng bot AI nhằm đặt mức ưu tiên cảnh báo cho các bài đăng, video hay livestream để hỗ trợ kịp thời cho những người đang có nhu cầu cần trợ giúp nhất. Họ sẽ liên lạc với những người được cho là cần giúp đỡ thông qua Facebook Messenger, với những đường link liên lạc đến những địa chỉ trợ giúp phù hợp như đường dây nóng chống tự sát National Suicide Prevention Lifeline và Crisis Text Line.
Phó chủ tịch Facebook Guy Rosen cho biết: “Facebook sẽ triển khai các bot AI trên mạng lưới bên ngoài lãnh thổ Mỹ nhằm xác định những người có ý định tự tử. Bot AI sử dụng công nghệ nhận dạng mẫu để xác định các bài đăng và đoạn live stream thể hiện ý tưởng tự tử.
Facebook sẽ tiếp tục hoàn thiện công nghệ nhận dạng để chủ động phòng chống nhận dạng sai, nâng cao độ chính xác của thuật toán. Tín hiệu vào sẽ là những đoạn ký tự được sử dụng trong bài đăng hay lời bình luận có độ nhạy cảm cao, như ‘Are you OK?, Can I help?’ Trong quá trình thử nghiệm Facebook đã các định được các video có nội dung tự sát mà không được cộng đồng thông báo kịp thời”.
Trong tương lai, trí tuệ nhân tạo AI sẽ còn được cải tiến nhiều hơn. Hiện tại AI chỉ mới sử dụng công nghệ nhận dạng mẫu để xác định các thông tin. Sau thời gian thử nghiệm, hệ thống nhận dạng đã được hoàn thiện tốt hơn và được bổ sung tính năng liên hệ trong trường hợp khẩn cấp đến cơ quan công an, chữa cháy hay cứu thương. Tới đây, AI sẽ được lập trình để có thể hiểu những tiếng lóng để nhận dạng nhanh chóng nhiều biểu hiện của trầm cảm hay ý định tự tử cũng như những phát biểu yêu ghét trên Facebook.
Về phần mình, người sáng lập kiêm CEO Facebook, Mark Zuckerberg tuyên bố đây là một thí dụ tốt về việc trí tuệ nhân tạo được ứng dụng phục vụ lợi ích con người. Ông cho hay: “Khi mọi người còn đang lo lắng về hiểm họa của AI trong tương lai thì đây là một thí dụ tốt để nhắc nhở mọi người là AI có thể giúp cứu sống rất nhiều người ở thời điểm hiện tại. Chỉ trong tháng trước, các bot AI đã giúp công ty trợ giúp những trường hợp khẩn cấp với thời gian nhanh gấp 100 lần so với trước đây”.
Công ty sẽ triển khai công nghệ mới trên phạm vi toàn cầu sau một thời gian thử nghiệm ở Mỹ (từ tháng 3/2017). Tuy nhiên, công cụ sẽ không triển khai ở các nước trong khối EU do các quy định về bảo mật thông tin ở đây.
Sơn Tùng