สถาบันความปลอดภัยปัญญาประดิษฐ์ของสหรัฐฯ (USAISI) ณ สถาบันมาตรฐานและเทคโนโลยีแห่งชาติ (NIST) ของกระทรวงพาณิชย์ได้ประกาศข้อตกลงที่เป็นความร่วมมือในการวิจัย การทดสอบ และการประเมินความปลอดภัยของปัญญาประดิษฐ์กับ Anthropic และ OpenAI
Memorandum of Understanding (MoU) ของแต่ละบริษัทได้กำหนดกรอบการทำงานเพื่อให้ USAISI เข้าถึงโมเดลใหม่ของแต่ละบริษัททั้งก่อนและหลังการเผยแพร่สู่สาธารณะ ข้อตกลงดังกล่าวจะช่วยให้เกิดการวิจัยร่วมกันเกี่ยวกับวิธีการประเมินความสามารถและความเสี่ยงด้านความปลอดภัย รวมถึงวิธีการบรรเทาความเสี่ยง
Elizabeth Kelly ผู้อำนวยการ USAISI กล่าวว่า “ความปลอดภัยเป็นสิ่งสำคัญในการส่งเสริมนวัตกรรมทางเทคโนโลยีที่ก้าวล้ำ ด้วยข้อตกลงนี้ เราหวังว่าจะได้เริ่มความร่วมมือทางเทคนิคกับ Anthropic และ OpenAI เพื่อพัฒนาวิทยาศาสตร์ด้านความปลอดภัยของปัญญาประดิษฐ์ ถึงแม้ข้อตกลงนี้จะเป็นเพียงจุดเริ่มต้นเท่านั้น แต่เป็นก้าวสำคัญในการดูแลอนาคตของปัญญาประดิษฐ์อย่างมีความรับผิดชอบ”
USAISI จะให้ feedback แก่ Anthropic และ OpenAI เกี่ยวกับการปรับปรุงความปลอดภัย โดยร่วมมือกับสถาบันความปลอดภัยปัญญาประดิษฐ์ของของสหราชอาณาจักร
USAISI เกิดขึ้นจากองค์ความรู้กว่า 120 ปีของ NIST ในการพัฒนาวิทยาศาสตร์ เทคโนโลยี มาตรฐาน และเครื่องมือต่างๆ การประเมินภายใต้ข้อตกลงนี้จะส่งเสริมการทำงานของ NIST และการใช้งาน AI ที่ปลอดภัย และเชื่อถือได้ โดยอาศัยคำสั่งบริหารของรัฐบาล Biden-Harris เกี่ยวกับ AI และคำมั่นสัญญาโดยสมัครใจที่นักพัฒนาโมเดล AI ชั้นนำให้กับรัฐบาล
-------------------
แหล่งข้อมูลอ้างอิง
U.S. AI Safety Institute Signs Agreements Regarding AI Safety Research, Testing and Evaluation With Anthropic and OpenAI
Comments