4月6日凌晨，Open AI在官網發(fā)布了《Our approach to AI safety》，以確保安全、可靠地為全球用戶提供ChatGPT服務。（地址：https://openai.com/blog/our-approach-to-ai-safety）

(資料圖)

目前，ChatGPT的安全問題受到了全球多數國家的高度關注。意大利則直接禁用ChatGPT，歐洲多數國家也開始紛紛重視ChatGPT是否侵犯數據隱私等。一時間生成式AI的數據安全成為熱門話題。

Open AI在這關鍵節(jié)點發(fā)布安全方法，這對其未來發(fā)展乃至整個AIGC行業(yè)都起到了關鍵的保護和穩(wěn)定軍心的作用。

構建安全、可靠的AI產品

Open AI表示，在發(fā)布任何新系統(tǒng)之前，會進行嚴格的測試。聘請外部專家提供反饋，通過人工反饋強化學習等技術改進模型的行為，并構建廣泛的安全和監(jiān)控系統(tǒng)。

例如，Open AI的最新模型GPT-4完成訓練后，花了6個多月的時間在整個組織內開展工作，以使其在公開發(fā)布之前更安全、更一致。

Open AI認為，強大的人工智能系統(tǒng)應該接受嚴格的安全評估。需要監(jiān)管以確保采用此類做法，Open AI將積極與政府合作，以制定此類監(jiān)管的最佳框架。

從實踐中學習、優(yōu)化、改善

Open AI正在努力在部署前預防可預見的風險，但是，在實驗、研發(fā)的過程中得到的反饋是有限的，盡管進行了嚴謹、廣泛的測試仍然無法預測人們使用ChatGPT所產生的各種意外后果。所以，從實踐項目中學習、優(yōu)化和改善產品，成為重中之重。

Open AI通過自己的服務和API，以幫助開發(fā)人員可以將最強大的大語言模型直接集成到產品中。這可以使得Open AI能夠監(jiān)控濫用行為并采取行動，并不斷構建完善的緩解措施，保證Open AI的產品被用在安全、合規(guī)的項目上。

隨著全球用戶使用的深入，這促使Open AI需要制定更細致、周全的對策來應對各種可能出現的危險。

保護兒童

保護兒童的安全一直是Open AI的重點工作。Open AI要求人們必須年滿 18 歲，或在父母同意的情況下年滿13歲才能使用Open AI的產品。Open AI正在研究驗證選項。

Open AI不允許其產品用于生成仇恨、騷擾、暴力或成人內容等。與GPT-3.5相比，Open AI最新的模型GPT-4響應，非法內容請求的可能性降低了82%，并且已經建立了一個強大的系統(tǒng)來監(jiān)控濫用情況。GPT-4現在可供 ChatGPT Plus 用戶使用，Open AI希望隨著時間的推移讓更多人可以使用它。