Anthropic และ OpenAI กำลังพิจารณาการติดตั้งผู้ประเมินความปลอดภัยอิสระภายในห้องปฏิบัติการ AI ของพวกเขา ซึ่งเป็นการเคลื่อนไหวที่ได้รับการต้อนรับจากนักวิจัยที่มองว่ามันเป็นโอกาสในการเข้าถึงที่ไม่เคยมีมาก่อน แต่ก็มีการเตือนว่าการควบคุมที่มีความหมายต้องการความโปร่งใสและความเป็นอิสระอย่างแท้จริงAnthropic and OpenAI are considering embedding independent safety evaluators within their AI labs, a move welcomed by researchers who see it as unprecedented access. However, they caution that meaningful oversight requires true transparency and independence.
นักวิจัยชี้ให้เห็นว่าการมีผู้ประเมินความปลอดภัยอิสระนั้นเป็นขั้นตอนที่สำคัญ แต่ยังต้องการการกำกับดูแลที่เหมาะสมเพื่อให้แน่ใจว่าการพัฒนา AI จะเป็นไปอย่างปลอดภัยและมีจริยธรรมResearchers point out that having independent safety evaluators is an important step, but proper oversight is still needed to ensure that AI development is safe and ethical.
