ai: Các nhà khoa học phát triển hệ thống AI để giúp chống lại phát ngôn thù địch trực tuyến – Tin tức mới nhất



Các nhà khoa học đã phát triển một trí tuệ nhân tạo (AI) hệ thống có thể giúp truy cập lời nói ghét hướng vào các nhóm thiểu số bị tước quyền như cộng đồng Rohingya.

Hệ thống được phát triển bởi các nhà nghiên cứu từ Đại học Carnegie Mellon ở Mỹ có thể nhanh chóng phân tích hàng ngàn bình luận về truyền thông xã hộivà xác định phân số bảo vệ hoặc đồng cảm với các nhóm không có tiếng nói.

Các nhà điều hành phương tiện truyền thông xã hội của con người, những người không thể tự sàng lọc qua rất nhiều bình luận, sau đó sẽ có tùy chọn làm nổi bật “bài phát biểu trợ giúp” này trong các phần bình luận, các nhà nghiên cứu cho biết.

Ashiqur R KhudaBukhsh, một nhà nghiên cứu sau tiến sĩ tại Viện Công nghệ Ngôn ngữ của Đại học Carnegie Mellon (LTI) cho biết: “Ngay cả khi có nhiều nội dung đáng ghét, chúng tôi vẫn có thể tìm thấy những bình luận tích cực.

Các nhà nghiên cứu cho biết việc tìm kiếm và làm nổi bật những bình luận tích cực này có thể giúp internet trở thành một nơi an toàn hơn, lành mạnh hơn như phát hiện và loại bỏ nội dung thù địch hoặc cấm các troll chịu trách nhiệm.

Người Rohingyas, người bắt đầu chạy trốn Myanamar vào năm 2017 để tránh thanh lọc dân tộc, phần lớn là không phòng vệ chống lại lời nói ghét trực tuyến, họ nói.

Nhiều người trong số họ có trình độ thành thạo ngôn ngữ toàn cầu hạn chế như tiếng Anh và họ có ít quyền truy cập vào internet.

Hầu hết quá bận rộn để cố gắng sống sót để dành nhiều thời gian đăng nội dung của riêng họ, KhudaBukhsh nói.

Để tìm bài phát biểu trợ giúp có liên quan, các nhà nghiên cứu đã sử dụng kỹ thuật của họ để tìm kiếm hơn một phần tư triệu bình luận từ YouTube trong những gì họ tin là phân tích tập trung vào AI đầu tiên về cuộc khủng hoảng tị nạn Rohingya.

Jaime Carbonell, giám đốc LTI và đồng tác giả của nghiên cứu cho biết, khả năng phân tích số lượng lớn văn bản như vậy cho nội dung và ý kiến ​​là có thể vì những cải tiến lớn gần đây trong các mô hình ngôn ngữ.

Các mô hình này học hỏi từ các ví dụ để họ có thể dự đoán những từ nào có khả năng xảy ra theo một trình tự nhất định và giúp máy móc hiểu những gì diễn giả và nhà văn đang cố gắng nói.

Tuy nhiên, các nhà nghiên cứu đã phát triển một sự đổi mới hơn nữa để có thể áp dụng các mô hình này vào các văn bản truyền thông xã hội ngắn trong Nam Á.

Các đoạn văn bản ngắn, thường có lỗi chính tả và ngữ pháp, rất khó để máy móc có thể diễn giải.

Ở các nước Nam Á thậm chí còn khó hơn, nơi mọi người có thể nói một số ngôn ngữ và có xu hướng “chuyển đổi mã”, kết hợp các bit của các ngôn ngữ khác nhau và thậm chí các hệ thống chữ viết khác nhau trong cùng một tuyên bố.

Các nhà nghiên cứu giải thích, các phương pháp học máy hiện có tạo ra các từ đại diện, hoặc các từ nhúng, để tất cả các từ có nghĩa tương tự được trình bày theo cùng một cách, các nhà nghiên cứu giải thích.

Kỹ thuật này cho phép tính khoảng cách của một từ với người khác trong một bình luận hoặc bài đăng.

Để mở rộng kỹ thuật này cho các văn bản đầy thách thức của Nam Á, nhóm nghiên cứu đã thu được các phần nhúng mới tiết lộ các nhóm hoặc cụm ngôn ngữ.

Các nhà nghiên cứu cho biết kỹ thuật nhận dạng ngôn ngữ này hoạt động tốt hoặc tốt hơn các giải pháp thương mại có sẵn.

Sự đổi mới này đã trở thành một công nghệ cho phép phân tích tính toán của phương tiện truyền thông xã hội trong khu vực đó, Carbonell lưu ý.

Các ý kiến ​​của các bình luận trên YouTube cho thấy khoảng 10% các bình luận là tích cực.

Khi các nhà nghiên cứu sử dụng phương pháp của họ để tìm kiếm lời nói trợ giúp trong bộ dữ liệu lớn hơn, kết quả dương tính 88%, cho thấy phương pháp này có thể làm giảm đáng kể nỗ lực thủ công cần thiết để tìm ra chúng, KhudaBukhsh nói.

Các nhà nghiên cứu đã trình bày những phát hiện của họ tại hội nghị thường niên của Hiệp hội vì sự tiến bộ của trí tuệ nhân tạo Thành phố New York, CHÚNG TA.

  .



Nguồn GadgetsNow

Chúng tôi rất vui khi biết đánh giá của bạn

Leave a reply

This site is protected by reCAPTCHA and the Google Privacy Policy and Terms of Service apply.

Gia Tot
Logo
Enable registration in settings - general