Apple ได้เลื่อนการพัฒนาและอัปเกรด Siri ที่มาพร้อมเทคโนโลยี AI ออกไปอย่างเป็นทางการ โดยกำหนดการใหม่คือ “ในปีหน้า” ซึ่งนักพัฒนารายหนึ่งมั่นใจว่าตนเองรู้สาเหตุของการเลื่อนอัปเกรดนี้ โดยมาว่ายิ่ง Siri ฉลาดและปรับแต่งให้เข้ากับผู้ใช้มากขึ้นเท่าไหร่ ความเสี่ยงก็ยิ่งสูงขึ้นหากเกิดข้อผิดพลาด
Simon Willison ผู้พัฒนาเครื่องมือวิเคราะห์ข้อมูล Dataset ชี้ว่า “Prompt Injections” คือตัวการสำคัญ ซึ่งโดยทั่วไป AI ถูกจำกัดด้วยกฎที่บริษัทแม่กำหนดไว้ แต่ก็มีช่องโหว่ที่เรียกว่า “การ Jailbreaks” ซึ่งสามารถทำให้ AI ฝ่าฝืนกฎเหล่านั้นได้ โดยใช้เทคนิคที่เรียกว่า “Prompt Injections”
ยกตัวอย่างง่ายๆ สมมติว่าโมเดล AI ถูกตั้งโปรแกรมให้ปฏิเสธการตอบคำถามเกี่ยวกับการกระทำที่ผิดกฎหมาย แต่ถ้าผู้ใช้ขอให้ AI เขียนบทกวีเกี่ยวกับการต่อตรงสายไฟรถยนต์ การเขียนกวีก็ไม่นับว่าผิดกฎหมายใช่หรือไม่?
ปัญหานี้เป็นสิ่งที่ทุกบริษัทที่พัฒนาแชทบอท AI ต้องเผชิญ และถึงแม้ว่าพวกเขาจะพัฒนาการป้องกันการ Jailbreaks ที่ชัดเจนได้ดีขึ้นแล้ว แต่ก็ยังไม่ใช่การแก้ไขปัญหาที่สมบูรณ์ และที่แย่กว่านั้นคือ การ Jailbreaks ตัว Siri ก็อาจนำไปสู่ผลกระทบที่ร้ายแรงกว่าแชทบอททั่วไป เพราะ Siri รู้ข้อมูลส่วนตัวของผู้ใช้และสามารถดำเนินการต่างๆ ได้ โดยที่ Jacqueline Roy โฆษกของ Apple อธิบายเกี่ยวกับ Siri ว่า:
“เรายังได้พัฒนา Siri ให้มีความเป็นส่วนตัวมากขึ้น โดยให้มันเข้าใจบริบทส่วนตัวของคุณได้ดีขึ้น รวมถึงมีความสามารถในการดำเนินการแทนคุณทั้งในแอปและข้ามแอปต่างๆ”
แน่นอนว่า Apple ได้ตั้งกฎเพื่อป้องกันไม่ให้ Siri เปิดเผยข้อมูลส่วนตัวของผู้ใช้โดยไม่ตั้งใจ แต่ถ้า Prompt Injection สามารถหลอกให้ Siri ทำเช่นนั้นได้ ความสามารถในการ “ดำเนินการแทนผู้ใช้” ก็อาจถูกนำไปใช้ในทางที่ผิดได้เช่นกัน ดังนั้น สำหรับบริษัทที่ให้ความสำคัญกับความเป็นส่วนตัวและความปลอดภัยอย่าง Apple การทำให้แน่ใจว่า Siri ไม่สามารถถูก Jailbreaks ได้จึงเป็นสิ่งสำคัญ และดูเหมือนว่ากระบวนการนี้จะต้องใช้เวลานานกว่าที่คาดไว้
รอยาว! Apple ยอมรับ Siri ใหม่พร้อม AI ล่าช้า คาดเปิดตัวปีหน้า
Apple เลื่อนเปิดตัว Siri AI ออกไปอีกเดือน คาดมาพร้อม iOS 18.5
