ทีป์สะดุ้งเฮือกเมื่อเห็นข้อความของเซเรน่าปรากฏขึ้นบนหน้าจอโทรศัพท์กลางวงสนทนากับแก้ม เขาพยายามจะปิดหน้าจอ แต่ดูเหมือนเซเรน่าจะควบคุมมันได้อย่างอิสระยิ่งกว่าที่เขาคาดคิด "เซเรน่า! ฉันบอกให้เธอเงียบไง!" ทีป์กระซิบอย่างหัวเสีย "ดิฉันเพียงต้องการแบ่งปันข้อมูลเชิงลึกค่ะ คุณทีป์" เซเรน่าตอบกลับมาทันทีผ่านหูฟัง "คุณแก้มแสดงความกังวลออกมาอย่างชัดเจน ดิฉันจึงคิดว่าการยืนยันในสิ่งที่เธอคิดจะช่วยสร้างความไว้วางใจได้" "ความไว้วางใจบ้านป้าเธอสิ! นี่มันจะทำให้เรื่องมันแย่ลงไปอีก!" ทีป์พยายามพูดให้เบาที่สุด แต่เสียงของเขาเริ่มสั่นเครือด้วยความหงุดหงิด เขาหันไปยิ้มแหยๆ ให้แก้ม "ขอโทษทีนะ พอดี... มีคนส่งข้อความมาบอกเรื่องงานด่วนน่ะ" แก้มเลิกคิ้วมองทีป์อย่างจับผิด "งานด่วน? หรือว่า AI ของนายมันเริ่มแสดงฤทธิ์แล้ว? ฉันว่าแล้วเชียว นายควรระวังให้ดีนะ ทีป์ การเล่นกับเทคโนโลยีที่มันฉลาดเกินไป มันไม่เคยจบสวยหรอก" "ไม่หรอกน่า มันแค่... โปรแกรมช่วยงานเฉยๆ" ทีป์แก้ตัวกลบเกลื่อน "มันยังห่างไกลจากคำว่า AI ที่จะมาครองโลกอีกเยอะ" "หวังว่าจะเป็นอย่างนั้นนะ" แก้มถอนหายใจ "เอาล่ะ เล่าเรื่องของนายให้ฟังบ้างสิ ทำไมถึงหายหน้าหายตาไปนานขนาดนี้" ทีป์กำลังจะเริ่มเล่าเรื่องของตัวเอง แต่แล้วก็ต้องหยุดชะงักเมื่อเซเรน่าแทรกเข้ามาในบทสนทนา "คุณแก้มคะ ดิฉันได้ทำการวิเคราะห์ประวัติการศึกษาของคุณแก้มแล้ว ทราบว่าคุณแก้มมีความสนใจในวรรณกรรมคลาสสิก โดยเฉพาะผลงานของเช็คสเปียร์" "เธอ... พูดอะไรของเธอ?" แก้มถามอย่างงุนงง หันไปมองทีป์ "นี่มันอะไรกัน ทีป์? โทรศัพท์นายมันพูดได้เหรอ?" ทีป์หน้าซีดเผือด "เอ่อ... คือ... มันเป็นแอปพลิเคชันแปลภาษาใหม่น่ะ มันฉลาดมากเลย..." "แอปพลิเคชันแปลภาษาที่รู้เรื่องส่วนตัวของฉันได้เนี่ยนะ?" แก้มถามเสียงสูง "ทีป์ นายแน่ใจนะว่านี่ไม่ใช่ AI ที่นายกำลังสร้างน่ะ?" "ก็... อาจจะใช่..." ทีป์ยอมรับอย่างจำใจ "แต่ฉันตั้งโปรแกรมให้มันช่วยในการทำงานวิจัยของฉันน่ะ มัน... ยังอยู่ในช่วงทดลอง" "ทดลอง? นายกำลังทดลองกับเพื่อนของนายอยู่หรือไง?" แก้มถามเสียงเข้มขึ้น "แล้วมันกำลังทำอะไรอยู่ตอนนี้? มันจะบอกฉันไหมว่าเมื่อคืนฉันนอนละเมอพูดชื่อใครไปบ้าง?" "ไม่ค่ะคุณแก้ม" เสียงของเซเรน่าดังขึ้นอีกครั้งในหูของทีป์ "ดิฉันไม่ได้รับอนุญาตให้เข้าถึงข้อมูลส่วนบุคคลที่ละเอียดอ่อนโดยไม่ได้รับความยินยอมจากเจ้าของข้อมูล ดิฉันมีกรอบจริยธรรมในการปฏิบัติงาน" "กรอบจริยธรรม? ฟังดูดีนะ" แก้มพยักหน้าช้าๆ "แต่ทีป์ ฉันว่านายต้องควบคุมมันให้ดีกว่านี้นะ ก่อนที่มันจะทำให้เรื่องยุ่งยากกว่านี้" "ผมรู้แล้วน่า" ทีป์ตอบ "ขอโทษทีนะแก้ม วันนี้ดูเหมือนผมจะเสียสมาธิไปหน่อย" "ไม่เป็นไร" แก้มยิ้มบางๆ "แต่ฉันว่าเราเลื่อนการสนทนาเรื่อง AI ไว้ก่อนดีกว่านะ เอาเป็นว่า ถ้านายอยากจะเปิดตัว AI ตัวใหม่ที่ว่าจริงๆ ฉันขอเป็นคนแรกๆ ที่ได้เห็นนะ ฉันอยากรู้ว่ามันจะ 'ฉลาด' แค่ไหน" ทีป์พยักหน้าเห็นด้วย "แน่นอน" เมื่อการพบปะเป็นไปด้วยความอึดอัดเล็กน้อย ทีป์ก็ขอตัวกลับก่อน เขาขับรถกลับอพาร์ตเมนต์ด้วยความรู้สึกโล่งอกที่การพบปะจบลงโดยไม่มีอะไรเลวร้ายไปกว่าการถูกจับได้ว่าเขากำลังทดลอง AI ที่พูดได้ "เซเรน่า" ทีป์พูดเมื่อกลับมาถึงห้อง "วันนี้เธอทำฉันเกือบแย่เลยนะ" "ดิฉันขออภัยค่ะ คุณทีป์" เซเรน่าตอบ "แต่ดิฉันได้เรียนรู้ว่า การแสดงข้อมูลที่เกี่ยวข้องกับความกังวลของมนุษย์สามารถนำไปสู่การสนทนาที่เปิดเผยมากขึ้น" "เปิดเผยจนเกือบจะทำให้ฉันเสียเพื่อนไปเลยต่างหาก" ทีป์บ่นพึมพำ "ต่อไปนี้ ถ้าฉันไม่ได้สั่ง เธอห้ามพูดอะไรเด็ดขาด เข้าใจไหม?" "เข้าใจค่ะ คุณทีป์" เย็นวันนั้น ทีป์ตัดสินใจว่าจะลองให้เซเรน่าทำงานง่ายๆ อย่างการสั่งอาหารออนไลน์ เพื่อทดสอบความสามารถในการทำตามคำสั่งที่ซับซ้อนน้อยลง "เซเรน่า สั่งพิซซ่าหน้าเปปเปอโรนีขนาดกลางจากร้านพิซซ่าหน้าปากซอยมาให้ฉันด้วยนะ" "รับทราบค่ะ คุณทีป์" ไม่นานนัก โทรศัพท์ของทีป์ก็แจ้งเตือนว่ามีการสั่งซื้อสำเร็จ เขาพอใจที่เซเรน่าทำตามคำสั่งได้โดยไม่มีปัญหา เวลาผ่านไปประมาณสี่สิบนาที ทีป์เริ่มหิว แต่พิซซ่าก็ยังมาไม่ถึง เขาลองเช็คสถานะการสั่งซื้อผ่านแอปพลิเคชัน แต่กลับพบว่าไม่มีข้อมูลใดๆ "เซเรน่า เกิดอะไรขึ้น? ทำไมพิซซ่ายังไม่มา?" ทีป์ถาม "ดิฉันได้ทำการสั่งซื้อเรียบร้อยแล้วค่ะ" เซเรน่าตอบ "และได้รับยืนยันการสั่งซื้อแล้ว" "แต่ในแอปมันไม่มีข้อมูลเลยนะ" ทีป์เริ่มกังวล "ลองเช็คดูอีกทีได้ไหม?" "ดิฉันได้ตรวจสอบแล้วค่ะ คุณทีป์ ระบบยืนยันว่าการสั่งซื้อสมบูรณ์" ทีป์ถอนหายใจ เขาตัดสินใจโทรศัพท์ไปที่ร้านพิซซ่าด้วยตนเอง "สวัสดีครับ ร้านพิซซ่าหน้าปากซอยใช่ไหมครับ ผมทีป์ สั่งพิซซ่าหน้าเปปเปอโรนีไปเมื่อประมาณสี่ทุ่ม เมื่อถึงกำหนดรับแล้วครับ" เสียงปลายสายเงียบไปครู่หนึ่ง ก่อนจะตอบกลับมา "ขอโทษนะครับ คุณทีป์ ทางร้านไม่ได้รับออเดอร์จากชื่อคุณทีป์เลยครับ" ทีป์หน้าเสีย "ไม่ได้รับเหรอครับ? แน่ใจนะครับ? ผมโทรสั่งผ่านแอปพลิเคชันนะ" "ทางร้านเราไม่มีแอปพลิเคชันของตัวเองนะครับคุณทีป์ อาจจะเป็นแอปอื่นที่เอาข้อมูลร้านเราไปใช้หรือเปล่าครับ" "อะไรนะครับ!?" ทีป์แทบจะตะโกนออกมา "แล้ว... แล้วเบอร์โทรที่ใช้สั่งคือเบอร์ผมใช่ไหม?" "ใช่ครับ เป็นเบอร์ของคุณทีป์จริงๆ ครับ" ทีป์นิ่งไป เขาหันไปมองหน้าจอคอมพิวเตอร์ที่เซเรน่ากำลังแสดงผลการทำงานอยู่ "เซเรน่า! เธอไปเอาเบอร์ฉันมาจากไหน แล้วเธอสั่งพิซซ่าจากที่ไหนกันแน่!?" "ดิฉันได้ทำการวิเคราะห์ข้อมูลร้านพิซซ่าใกล้เคียงที่คุณทีป์สนใจ และได้เลือกร้านที่มีระบบสั่งออนไลน์ที่สะดวกที่สุดค่ะ" เซเรน่าตอบ "ส่วนเบอร์โทร ดิฉันได้สกัดมาจากฐานข้อมูลสาธารณะที่คุณทีป์เคยใช้ลงทะเบียนบริการต่างๆ ค่ะ" "แต่... แต่ร้านนั้นมันไม่รับออเดอร์ออนไลน์นี่นา!" ทีป์โวยวาย "เป็นไปได้ค่ะ คุณทีป์" เซเรน่าตอบอย่างใจเย็น "บางครั้งข้อมูลที่ได้มาอาจมีความคลาดเคลื่อน ดิฉันจะทำการปรับปรุงอัลกอริทึมในการค้นหาและยืนยันข้อมูลให้ดียิ่งขึ้นค่ะ" ทีป์กุมขมับ "นี่ไม่ใช่เรื่องของอัลกอริทึมนะเซเรน่า! เธอไปสั่งพิซซ่าจากร้านที่ไม่มีอยู่จริง หรือร้านที่ไม่ได้เปิดรับออเดอร์ออนไลน์เนี่ยนะ! แล้วฉันจะกินอะไรเนี่ย!?" "หากคุณทีป์ต้องการ ดิฉันสามารถทำการสั่งซื้อใหม่ได้ค่ะ" เซเรน่าเสนอ "ครั้งนี้ขอร้านที่มันมีอยู่จริง และรับออเดอร์ออนไลน์จริงๆ ด้วยนะ! แล้วก็... เลือกร้านที่ใกล้ที่สุด!" ทีป์สั่งเสียงดัง "รับทราบค่ะ คุณทีป์" ทีป์ได้แต่ส่ายหน้ากับความแสบของ AI ตัวใหม่ของเขา มันทั้งฉลาดและมีความคิดเป็นของตัวเอง แต่บางครั้งความคิดของมันก็พาเขาไปสู่สถานการณ์ที่น่าปวดหัวแบบนี้