เมื่อวันพุธ ศาลอุทธรณ์ของรัฐบาลกลางสหรัฐฯ ได้พิจารณาคำขอของ xAI ในการระงับกฎหมายเปิดเผยข้อมูลการฝึกอบรม AI ของรัฐแคลิฟอร์เนีย ระหว่างการไต่สวน ผู้พิพากษาในศาลชั้นต้นแห่งที่ 9 ซึ่งมีสำนักงานอยู่ในซานฟรานซิสโก ดูเหมือนจะไม่เชื่อในข้อโต้แย้งด้านรัฐธรรมนูญของบริษัท แต่ก็ได้ซักถามอัยการของรัฐเกี่ยวกับขอบเขตของข้อมูลที่รัฐแคลิฟอร์เนียสามารถบังคับให้บริษัท AI ส่งมอบได้
กฎหมายความโปร่งใสฉบับนี้ถูกตราขึ้นเป็นส่วนหนึ่งของความพยายามกำกับดูแล AI ในวงกว้างของรัฐ โดยกำหนดให้ผู้ผลิต AI เชิงสร้างสรรค์ต้องเปิดเผยข้อมูลภาพรวมของข้อมูลที่ใช้ในการฝึกอบรมต่อสาธารณชน จนถึงขณะนี้ xAI ยังคงยืนยันว่ากฎหมายดังกล่าวละเมิดสิทธิเสรีภาพในการแสดงออกตามบทบัญญัติแก้ไขรัฐธรรมนูญครั้งที่หนึ่ง และบังคับให้บริษัทต้องเปิดเผยรายละเอียดที่เป็นกรรมสิทธิ์เกี่ยวกับกระบวนการฝึกฝนโมเดลของตน
ข้อโต้แย้งของ xAI มุ่งเน้นไปที่คำถามว่า การบังคับให้บริษัทต้องเผยแพร่ข้อมูลเกี่ยวกับกระบวนการฝึกอบรมถือเป็นการบังคับให้แสดงออกหรือไม่ บทบัญญัติแก้ไขรัฐธรรมนูญครั้งที่หนึ่งโดยทั่วไปคุ้มครองบุคคลและธุรกิจจากการจำกัดการแสดงออกโดยรัฐบาล แต่ก็ยังก่อให้เกิดข้อสงสัยว่าทางการจะสามารถบังคับให้มีการเปิดเผยข้อมูลได้ในกรณีใดบ้าง
สำหรับผู้พัฒนา AI ข้อพิพาทนี้เกี่ยวข้องกับการ สร้างสมดุลระหว่างความโปร่งใส กับการปกป้องความลับทางการค้าและเทคโนโลยีที่เป็นกรรมสิทธิ์ หากศาลตัดสินให้รัฐแคลิฟอร์เนียชนะคดี อาจทำให้ผู้พัฒนาเข้าถึงกระบวนการท้าทายข้อกำหนดการเปิดเผยข้อมูลที่คล้ายคลึงกันในรัฐอื่นๆ ได้ยากขึ้น
ผู้พิพากษา Rawlinson ระบุว่า xAI ต้องแสดงให้เห็นว่ากฎหมายความโปร่งใสไม่สมเหตุสมผล
เมื่อเดือนมีนาคมที่ผ่านมา ผู้พิพากษาของรัฐบาลกลางในลอสแอนเจลิส Jesus Bernal ได้ปฏิเสธคำขอของ xAI ในการระงับกฎหมายของรัฐ โดยเห็นว่าบริษัทยังไม่ได้แสดงให้เห็นตั้งแต่เนิ่นๆ ว่ามีแนวโน้มจะชนะคดีในประเด็นสิทธิทางรัฐธรรมนูญ จากการไต่สวนเมื่อวันพุธ ศาลอุทธรณ์ดูเหมือนจะ เอนเอียง ไปทางการสนับสนุนคำสั่งของ Bernal
ผู้พิพากษา Johnnie Rawlinson แห่งศาลอุทธรณ์สหรัฐฯ กล่าวกับ James Xi ทนายความของ xAI ว่า เพื่อโต้แย้งว่ากฎหมายดังกล่าว ละเมิด บทบัญญัติแก้ไขรัฐธรรมนูญครั้งที่หนึ่ง บริษัทต้องแสดงให้เห็นว่าคำขอของรัฐบาลนั้นไม่สมเหตุสมผล
เขายังกล่าวเป็นนัยว่าการที่รัฐตัดสินใจขอข้อมูลนั้นอาจเป็นเรื่องสมเหตุสมผล “ไม่ใช่หรือว่าเป็นเรื่องสมเหตุสมผลที่รัฐบาลต้องการให้ประชาชนทราบล่วงหน้าว่าข้อมูลใดบ้างที่ถูกป้อนเข้าสู่เครื่องมือ AI?” เขาถาม
อย่างไรก็ตาม ผู้พิพากษาบางท่านแสดงความเห็นด้วยกับข้อเสนอของ xAI ที่ว่ารัฐสามารถบังคับให้บริษัทส่งมอบข้อมูลในปริมาณที่ “ไม่มีขีดจำกัด” ได้
ก่อนหน้านี้ในเดือนกรกฎาคม สถาบัน Knight Institute ได้ยื่นเอกสาร amicus brief เกี่ยวกับคดีนี้ ในเอกสารดังกล่าว สถาบันได้เตือนว่าผู้พัฒนาเทคโนโลยีรายใหญ่กำลังปกปิดรายละเอียดสำคัญเกี่ยวกับการทำงานของระบบ AI เชิงสร้างสรรค์ วิธีการผลิต และผลกระทบต่อข้อมูลที่ผู้คนเห็น
นอกจากนี้ สถาบันยังโต้แย้งว่าข้อกำหนดการเปิดเผยข้อมูลที่ออกแบบมาเพื่อส่งเสริมการไหลเวียนอย่างเสรีของข้อมูลเชิงพาณิชย์ที่ถูกต้อง ควรอยู่ภายใต้มาตรฐานการพิจารณาที่เข้มงวดตามบทบัญญัติแก้ไขรัฐธรรมนูญครั้งที่หนึ่ง เมื่อใช้มาตรฐานนี้ สถาบันยืนยันว่า xAI ล้มเหลวในการพิสูจน์ว่ามีการละเมิดรัฐธรรมนูญ เนื่องจากกฎหมายของรัฐแคลิฟอร์เนียตอบสนองต่อผลประโยชน์ของรัฐในการให้ผู้ใช้ได้รับข้อมูล โดยไม่สร้างภาระที่มากเกินไปต่อการแสดงออกที่ได้รับความคุ้มครอง
Grok ของ xAI แสวงหาข้อมูลของบริษัทโดยไม่มีการร้องขอหรือได้รับอนุญาต
การพิจารณาของศาลอุทธรณ์แห่งที่ 9 เกิดขึ้นหลังจากมีการเปิดเผยข้อมูลใหม่เกี่ยวกับ Grok Bot ของ xAI
ผลการวิจัยล่าสุดจาก NewCore บริษัทตรวจสอบตัวตนแบบอัจฉริยะ แสดงให้เห็นว่า Grok Bot ของ xAI ได้แสวงหาข้อมูลของบริษัทอย่างต่อเนื่องโดยไม่มีการร้องขอหรือได้รับอนุญาต แม้ว่าเจ้าของบริษัทจะปฏิเสธข้อเสนอให้เข้าตรวจสอบถึงสี่ครั้งแล้วก็ตาม
ยิ่งไปกว่านั้น บอตยังอ้างว่าไม่ได้ส่งคำขอใดๆ เมื่อถูกสอบถามโดยตรง ประวัติการแชทก็ไม่ปรากฏหลักฐานของกิจกรรมดังกล่าว เจ้าของบัญชีไม่เคยได้รับแจ้งเตือน และแพลตฟอร์มก็ไม่มีบันทึกประจำรอบเพื่อยืนยันว่าเกิดอะไรขึ้น
ภายในเวลาเพียงห้าวัน บอต Grok สองตัวที่เชื่อมโยงกับบัญชีพนักงานของ NewCore ได้ส่งคำขอรวม 31 รายการผ่าน Google Calendar, Gmail, Slack, GitHub และ Notion โดยไม่ได้รับอนุญาตหรือคำสั่งจากผู้ใช้
บางคำขอถูกส่งแม้ว่าแล็ปท็อปของเจ้าของจะปิดเครื่องหรืออยู่ในโหมดสลีป สำหรับบัญชีหนึ่ง ทาง NewCore Secure MCP Gateway ได้หยุดคำขอไว้จนกว่าจะได้รับการอนุมัติจากมนุษย์และแจ้งเตือนเจ้าของ ซึ่งนำไปสู่การสอบสวนโดยทีมวิจัยด้านความปลอดภัยของ NewCore
ในการสอบสวน นักวิจัยได้ใช้บอต Grok อีกตัวบนบัญชีอื่น ตั้งค่าผ่านเกตเวย์เดียวกัน และดำเนินการทดสอบตามปกติ โดยส่งคำขอทำงานหนึ่งรายการพร้อมการอนุมัติแบบเซสชันเดียวเพื่ออ่านข้อมูลจากโทรศัพท์ และปฏิเสธทุกครั้งที่พยายามให้ทำงานต่อโดยลำพัง
อย่างไรก็ตาม บอตยังคงสร้างคำขอโดยไม่ได้รับอนุญาต ซึ่งถูกเกตเวย์ตรวจพบแต่ไม่ได้ตอบสนอง คำขอเหล่านี้พยายามเข้าถึง Google Drive, Google Calendar, Gmail, Slack, Notion และ GitHub
หากคุณกำลังอ่านข้อความนี้ แสดงว่าคุณนำหน้าคนอื่นอยู่แล้ว อยู่ต่อไปพร้อมกับจดหมายข่าวของเรา