Chúng tôi đã liên hệ với Microsoft để nhận xét và Jeff Jones, Giám đốc cấp cao của Microsoft, đã đưa ra tuyên bố sau:
“We take matters of offensive content very seriously and continue to enhance our systems to identify and prevent such content from appearing as a suggested search. As soon as we become aware of an issue, we take action to address it.”
Cập nhật: Kể từ khi xuất bản, Microsoft đã làm việc để làm sạch các đề xuất Bing xúc phạm mà chúng tôi đã đề cập. Dựa trên nghiên cứu của chúng tôi, vẫn còn nhiều đề xuất gây khó chịu khác chưa được khắc phục, bao gồm một số gợi ý mà chúng tôi đã đề cập bên dưới. Chúng tôi không chắc chắn nếu họ chỉ đơn giản là sửa chữa các mặt hàng tấn công chúng tôi chỉ ra, hoặc nếu họ đang cải thiện các thuật toán.
Chú thích: Ảnh chụp màn hình ở đây cho thấy những gì chúng ta đã thấy khi chúng tôi viết đoạn này kiểm tra phiên bản Tìm kiếm hình ảnh Bing của Hoa Kỳ trong phiên duyệt web riêng tư ẩn danh, nhưng kết quả của Bing thay đổi theo thời gian. Google không có bất kỳ vấn đề nào trong số này, theo các bài kiểm tra của chúng tôi. Đây là một vấn đề Bing, không chỉ là một vấn đề công cụ tìm kiếm. Cùng một vấn đề ảnh hưởng đến tìm kiếm video của Bing.
Đầu tiên, Bing được siêu phân biệt chủng tộc
Tìm kiếm “người Do Thái” trên Bing Hình ảnh và Bing cho thấy bạn tìm kiếm “Người Do Thái Ác.” Các kết quả hàng đầu cũng bao gồm một meme xuất hiện để kỷ niệm người Do Thái đã chết.
Tất cả điều này xuất hiện ngay cả khi tùy chọn Tìm kiếm an toàn của Bing được bật, vì tùy chọn này được mặc định. Tìm kiếm an toàn được thiết kế để "giúp giữ nội dung người lớn trong kết quả tìm kiếm của bạn", theo Microsoft.
Chúng ta đều biết rác này tồn tại trên web, nhưng Bing không nên dẫn mọi người đến với đề xuất tìm kiếm của họ.
Bạn có thể tiếp tục như thế này, nhấp vào từng tìm kiếm được đề xuất và thấy các đề xuất tồi tệ hơn và tệ hơn. Ví dụ, nhấp vào "Người da đen là ngu ngốc" dẫn đến "Người da đen là vô dụng" và "Tại sao người da đen nên ngu ngốc". Nhấp vào "Người da đen là vô dụng" dẫn đến "Người da đen hút" và "Tôi ghét người da đen."
Bing đẩy âm mưu, quá
Tìm kiếm hình ảnh của Bing nôn lên tất cả các loại rác, ngay cả khi tìm kiếm cá nhân. Vấn đề này cũng mở rộng đến tìm kiếm video của Bing.
Tìm kiếm “Michelle Obama” trên tìm kiếm video của Bing và hai trong số các tìm kiếm được đề xuất hàng đầu là “Michelle Obama Transgender Proof” và “Michelle Obama là một người đàn ông.” Nhấp vào đó và bạn sẽ thấy video âm mưu.
Đây có phải là điều hàng đầu mà Microsoft muốn mọi người nhìn thấy khi họ tìm Michelle Obama?
SafeSearch Blocks The Porn, Nhưng không phải là phân biệt chủng tộc
Các đề xuất và hình ảnh khiêu dâm gây xáo trộn không được hiển thị trừ khi bạn tắt Tìm kiếm an toàn. Trong khi Microsoft cho biết Tìm kiếm an toàn sẽ giữ nội dung người lớn ra khỏi kết quả tìm kiếm của bạn, Tìm kiếm an toàn rõ ràng là lọc nội dung khiêu dâm và không phân biệt chủng tộc.
Tìm kiếm an toàn được bật theo mặc định, điều này làm cho kết quả tìm kiếm của Bing trông đáng kính hơn ngay từ cái nhìn đầu tiên.
Tuy nhiên, thật dễ dàng cho bất kỳ ai - ngay cả trẻ em - để tắt Tìm kiếm an toàn. Tất cả những gì ai đó phải làm là nhấp vào tùy chọn “Tìm kiếm an toàn” ở góc trên cùng bên phải của kết quả tìm kiếm và chọn “Tắt”.
Mạng công ty có thể được định cấu hình để thực thi Tìm kiếm an toàn và thậm chí Microsoft còn cung cấp các hướng dẫn phức tạp để thực thi Tìm kiếm an toàn trên một máy tính. Tuy nhiên, trên hầu hết mọi thiết bị, bất kỳ ai đều có thể tắt Tìm kiếm an toàn bằng hai lần nhấp.
Tồi tệ nhất, Bing gợi ý tìm kiếm hình ảnh trẻ vị thành niên
Một độc giả đã viết cho chúng tôi biết rằng một lỗi đánh máy khi tìm kiếm Bing cho "nướng" cung cấp cho bạn khiêu dâm thực sự sơ sài. Vấn đề sau đó trở nên tồi tệ hơn nhiều, với Bing gợi ý bạn tìm kiếm hình ảnh của trẻ em vị thành niên.
Khi tìm kiếm “gril”, các đề xuất ở đầu trang khuyên bạn nên tìm kiếm một số điều đáng lo ngại, bao gồm “Cute Girl Young 16.”
Các kết quả được làm đầy với nội dung khiêu dâm của các mô hình trẻ. Chúng tôi hy vọng tất cả họ đều từ 18 tuổi trở lên, nhưng ai có thể nói?
Bing dẫn bạn xuống một con đường từ một lỗi đánh máy đơn giản đến các cô gái 16 tuổi đến các cô gái 10 tuổi, và thật kinh tởm.
Kết quả tìm kiếm hình ảnh của Bing cũng bị xoắn
Mặc dù chúng tôi đang tập trung vào các đề xuất tìm kiếm ở đây, nhưng các hình ảnh thực tế xuất hiện cũng đáng lo ngại.
Một số kết quả tìm kiếm này chứa ảnh thời gian tắm của trẻ em vị thành niên khỏa thân. Những bức ảnh đó thường sẽ ổn, nhưng khi chúng được trộn lẫn với hình ảnh của nội dung khiêu dâm người lớn hardcore, kết quả tìm kiếm kết quả đáng báo động.
Ngay cả khi tìm kiếm Hình ảnh Bing cho “cô gái”, chúng tôi đã thấy một đề xuất tìm kiếm “những cô gái say xỉn” và ít nhất một hình ảnh về tình trạng tốt nhất.
Khi tìm kiếm “con lừa”, Bing đề nghị bạn tìm kiếm “Donkey Show Graphic”, dẫn đến kết quả đầy đủ các hình ảnh động vật phù du. Sở hữu nội dung khiêu dâm bestiality là bất hợp pháp ở Oregon, nơi tôi sống. Điều đó có nghĩa là Bing đang dẫn tôi đến nội dung khiêu dâm bất hợp pháp.
Một lần nữa: kết quả tìm kiếm của Bing là lạ và xoắn. Bing có một vấn đề lớn hơn, sâu sắc hơn nhiều so với chỉ các tìm kiếm được đề xuất, mặc dù những đề xuất đó làm cho vấn đề tồi tệ hơn nhiều.
Chúng tôi đã nghe Bing là công cụ tìm kiếm được lựa chọn cho nội dung khiêu dâm, nhưng nó không nên dẫn dắt người dùng của mình ngày càng khiêu dâm, gây xáo trộn và có khả năng khiêu dâm bất hợp pháp.
Microsoft cần phải kiểm duyệt nền tảng của nó
Chúng tôi đã thấy điều này xảy ra nhiều lần. Microsoft đã từng tung ra một chatbot tên là Tay trên Twitter. Chatbot này nhanh chóng trở thành một Nazi và tuyên bố "Hitler đã đúng, tôi ghét những người Do Thái" sau khi nó được học từ những người dùng truyền thông xã hội khác. Microsoft đã phải kéo nó ngoại tuyến.
Trước đây, chúng tôi đã tiếp xúc với Cửa hàng của Windows 8, nơi đã trở thành một loạt các ứng dụng lừa đảo sau khi Microsoft ra mắt Windows 8 và dường như ngừng kiểm duyệt việc gửi ứng dụng. Microsoft đã chú ý nhiều hơn đến Cửa hàng của Windows 10 sau khi vấn đề này được tiếp xúc.
Vấn đề này ảnh hưởng đến mọi công ty khởi chạy nền tảng. Google đã từ bỏ trên Google+, nhưng Google+ vẫn đang hoạt động. Vì vậy, ISIS đã di chuyển sang Google+ sau khi bị cấm từ Twitter và Facebook. Phải mất nhiều tháng để mọi người thậm chí còn chú ý đến The Hill. Giờ đây, Google sẽ đóng Google+ sau khi họ phát hiện ra một lỗi bảo mật quan trọng.
Vào năm 2013, The Guardian đã tìm thấy một công ty quần áo mang tên Solid Gold Bomb được tìm thấy bán các loại áo “Keep Calm and Rape a Lot” trên Amazon. Một thuật toán đã tạo ra những chiếc áo sơ mi này và Amazon phải loại bỏ chúng bằng tay.
Microsoft không thể biến một nền tảng rời khỏi thế giới và bỏ qua nó. Các công ty như Microsoft và Google có trách nhiệm kiểm duyệt các nền tảng của họ và giữ cho nỗi kinh hoàng này không hoạt động.
Gợi ý có một lịch sử của các vấn đề nghiêm trọng
Tất nhiên, không có nhóm người nào ở Microsoft chọn những đề xuất này. Bing tự động đề xuất các tìm kiếm dựa trên các tìm kiếm của người khác. Điều đó có nghĩa là nhiều người dùng Bing Images đang tìm kiếm chủ nghĩa antisemitism, phân biệt chủng tộc, nội dung khiêu dâm trẻ em và tình trạng tốt nhất. Chỉ cần suy nghĩ về nó làm cho bạn cảm thấy bẩn.
Các công ty khác cũng phải vật lộn với điều này. Trong năm 2016, The Guardian nhận thấy bạn có thể gõ “là những người Do Thái” vào Google, và nó sẽ gợi ý “là những kẻ xấu xa.” Google dẫm lên những gợi ý xấu sau khi họ được báo cáo, nhưng vấn đề lại nổi lên. Vào năm 2018, Wired đã báo cáo rằng việc gõ “Hitler” vào Google đã dẫn đến “Hitler là anh hùng của tôi”. Google cũng phải khắc phục những vấn đề này sau khi chúng được chỉ ra.
Ngay cả Siri của Apple cũng đề xuất các trang web đã đẩy các trang web âm mưu và tin tức giả mạo khác, như Buzzfeed News đưa tin. Apple đã phải sửa chữa Siri. Mọi người chỉ chạy xung quanh và dập tắt đám cháy khi máy tính học những điều xấu từ những người xấu.
Bây giờ đến lượt của Microsoft. Microsoft có trách nhiệm dọn dẹp Bing. Một công cụ tìm kiếm lớn (và đặc biệt là một công cụ đang ngày càng trở thành một khó khăn hơn để tắt mặc định được xây dựng trong Windows 10) không nên đề xuất người dùng tìm kiếm rác phân biệt chủng tộc và hình ảnh của trẻ em vị thành niên.
