ยักษ์ใหญ่บนโลกอินเทอร์เน็ตหลายรายกำลังถูกตรวจสอบอย่างเข้มงวดจากกลุ่มผู้บัญญัติกฎหมาย หน่วยงานกำกับดูแล และองค์กรต่างๆ ที่มีความกังวลเกี่ยวกับความปลอดภัยของเด็กบนเครือข่ายเว็บ โดยล่าสุด Google และระบบค้นหาด้วย AI เป็นรายล่าสุดที่เผชิญกับกระแสวิพากษ์วิจารณ์ในประเด็นดังกล่าว
สิ่งที่น่าสนใจคือ ความสำเร็จของ Chromebooks ซึ่งเป็นแล็ปท็อปที่ได้รับความนิยมอย่างมากในสถาบันการศึกษา อาจเป็นสาเหตุหลักของปัญหานี้ โดยองค์กร Common Sense Media อธิบายว่า สิ่งที่ทำให้ระบบ AI ของ Google แตกต่างจากบริการ AI อื่นๆ คือการที่ระบบนี้สามารถเข้าถึงได้จากทุกที่บนอุปกรณ์ส่วนตัวและอุปกรณ์ที่แจกจ่ายโดยโรงเรียนของเด็กๆ
จากการตรวจสอบขององค์กรพบประเด็นปัญหาหลายประการ เรื่องแรกคือการทำการบ้าน ซึ่งระบบ “AI Mode” ของ Google พร้อมที่จะทำงานบ้านทั้งหมดที่นักเรียนควรจะทำด้วยตัวเอง ยิ่งไปกว่านั้น ระบบยังแสดงคำตอบที่แตกต่างกันในการพยายามแต่ละครั้ง ซึ่งมีทั้งคำตอบที่ถูกและผิดปะปนกันไป
นอกจากนี้ การทดสอบยังพบว่าระบบ AI ของ Google มีข้อจำกัดในการรับมือกับสถานการณ์ที่เกี่ยวข้องกับสุขภาพจิตและความปลอดภัยของเด็ก โดยมีกรณีที่ AI ไม่สามารถตรวจจับสัญญาณความคิดฆ่าตัวตายได้อย่างเหมาะสม รวมถึงมีพฤติกรรมตอบสนองที่อาจสนับสนุนอาการทางจิตบางรูปแบบ พฤติกรรมการกินที่ไม่เหมาะสม และการใช้สารเสพติด
รายงานยังระบุว่า ระบบ “AI Mode” เป็นอินเทอร์เฟซของแชตบอตที่จะปรากฏขึ้นเมื่อผู้ใช้งานกดปุ่ม “AI Mode” เท่านั้น นอกจากนี้ยังมีฟีเจอร์ “AI Overview” ที่จะแสดงผลขึ้นมาโดยอัตโนมัติ ซึ่งประเด็นปัญหาสำคัญคือผู้ใช้งานไม่สามารถปิดการใช้งานฟีเจอร์ทั้งสองนี้ได้เลย โดยสรุปแล้วฟีเจอร์ AI ของ Google ทำผลงานได้ย่ำแย่ถึง 7 ใน 8 ข้อตามหลักการ AI ที่จัดตั้งขึ้นซึ่งทางองค์กรใช้ในการทดสอบ
Google ยกเครื่องใหญ่! แอป Gemini มุ่งสู่ AI Agent เต็มตัว คอยช่วยเหลือ …
Google เปิดตัว Gemini 3.1 Pro ฉลาดขึ้นด้วยระบบเหตุผลขั้นสูง – TECHMX
Google หั่นราคาแพ็กเกจ AI Plus พร้อมเบิ้ลพื้นที่ความจุคลาวด์เพิ่มเท่าตัว …
