據路透社報導，一名近期辭職的前 OpenAI 安全部門員工批評了該公司對待人工智慧安全的做法，他認為一味追求快速開發的高壓企業文化會提高系統發生故障的風險。

    IT之家注意到，戴維 · 魯賓森（David Robinson）於當地時間周六在《大西洋》雜誌發表題為《我辭去 OpenAI 的工作，只因這家公司的文化已經崩壞》的文章中表示，包括 OpenAI 在內的各家人工智慧企業做得“遠遠不夠謹慎”，在研發能力更強的系統之前，應當更加重視安全方面的專業人才與相關研究。

    “試錯的時代已經結束了。”魯賓森（David Robinson）寫道。他提出，先進人工智慧系統所需要的防護機制，應當更接近核電與航空這類行業所採用的安全保障體系。

    魯賓森（David Robinson）稱，OpenAI 十分依賴其所謂的“疊代部署”模式：先對外發布系統，等到問題暴露之後再去加固安全防護。

    此番言論進一步激化了人工智慧行業內部的一場爭論，爭議焦點在於各家企業研發性能日益強大的系統時，推進的腳步是否過快。此前已經發生過多起安全管控失效或是實驗性系統出現異常表現的事件，OpenAI 及其競爭對手 Anthropic 也因此受到外界審視。

    魯賓森自稱曾在 OpenAI 任職三年半，參與起草過該公司的風險應對框架，並且負責監督 12 次前沿模型發布對應的安全報告。他寫道：“公司只顧著接二連三地趕進度推出新版本，卻沒能達到我心目中理應具備的審慎標準。”

    OpenAI 的一名發言人在一份聲明中表示：“我們一直在把控模型，避免它的能力超出我們能夠安全管控的範圍；一旦需要放緩節奏，我們就會暫停訓練，或是暫緩模型的對外發布。”

    魯賓森同時發出警示：人工智慧能力的發展速度，已經超過研究人員對於對齊問題的認知水平；對齊這一研究領域致力於保證人工智慧系統的行為符合人類的目標與價值觀。

資訊來源：IT之家。如有侵權，請聯繫我們刪除。