近日，在線AI創(chuàng)作平臺哩布哩布AI被曝出生成內(nèi)容涉黃，平臺隨后發(fā)布致歉聲明。
【資料圖】
4月15日，南都N視頻記者在該平臺實測發(fā)現(xiàn)，輸入“擦邊”提示詞或上傳身材暴露的圖片，已無法生成相關視頻。與此同時，有多位用戶反映無法正常生成視頻，要求退費。對此，平臺工作人員告訴南都記者，“相關退費需求可聯(lián)系客服處理，目前整改還在進行中?！?/p>
南都記者實測平臺生成情況。
此前，哩布哩布AI被指“生成涉黃視頻”，用戶輸入在網(wǎng)上購買的提示詞后，僅僅幾分鐘，這個AI平臺就生成了一個半裸身體的女性跳舞視頻。在整個生成過程中，沒有觸發(fā)平臺任何限制機制。
對此，4月14日，哩布哩布AI發(fā)布關于加強內(nèi)容安全管理的說明稱，公司第一時間啟動內(nèi)部專項排查，對平臺生成能力及審核機制進行了全面自查。經(jīng)排查發(fā)現(xiàn)，在個別復雜提示詞組合及規(guī)避表達的邊界場景下，平臺存在生成不符合規(guī)范內(nèi)容的情況。
聲明表示，“相關問題已第一時間完成技術修復，并對風險路徑進行全面封堵。同時，我們已同步加強攻防演練與審核機制升級，持續(xù)提升識別能力與處置效率，從源頭降低風險發(fā)生。我們也已啟動內(nèi)部責任復盤機制，進一步完善相關管理與審核流程?！?/p>
當天發(fā)布聲明后，南都記者留意到，在哩布哩布AI的用戶社群中，有用戶稱視頻無法生成。對此，客服人員回應稱“近期審核規(guī)則收嚴”，并附上公司加強內(nèi)容安全管理的說明鏈接。有用戶認為這損害了其付費權益，要求退費，“我們是做內(nèi)衣產(chǎn)品的設計，現(xiàn)在圖片上傳不了，也無法生成視頻?！?/p>
4月15日，哩布哩布AI的工作人員告訴南都記者，“用戶退費需求可通過客服人員申請，目前整改還在進行中，詳情以此前聲明為準?！?/p>
同日，南都記者實測該平臺時，選取衣著輕微暴露的女性角色圖片，在哩布哩布AI使用圖生視頻功能，顯示“圖片內(nèi)容不符合平臺要求”。有用戶在社群中分享圖片顯示，其輸入“裙子風中飄”“在玻璃板上行走”也因觸及敏感詞而無法生成視頻。
公開信息顯示，哩布哩布AI成立于2023年3月，是一家研發(fā)多模態(tài)生成工具的AI原生應用公司。
南方都市報（nddaily）報道
南都N視頻記者林詩妍
