4月17日，由廣播電視人工智能應用國家廣播電視總局重點實驗室組織編制的《廣播電視和網(wǎng)絡視聽深度偽造防范技術要求（2022版）》對外公示。該技術要求已經(jīng)通過了廣播電視科學研究院組織的專家評審，由廣播電視人工智能應用國家廣播電視總局重點實驗室面向行業(yè)公開發(fā)布。

該文件提出了深度偽造視聽內容防范總體技術要求、面部識別技術要求、深度偽造鑒別技術要求、黑名單技術要求以及深度偽造防范能力評估要求，給出了深度偽造防范能力系統(tǒng)參考設計。適用于廣播電視和網(wǎng)絡視聽機構在內容審核發(fā)布環(huán)節(jié)部署深度偽造防范能力系統(tǒng)時應具備的技術規(guī)范和要求。

對技術基本要求方面，廣播電視和網(wǎng)絡視聽機構應部署運行深度偽造防范能力系統(tǒng)，全面防范深度偽造內容，包括但不限于以下技術措施：

1）應具備人技一體的深度偽造防范機制；

2）應具備重要人物面部識別能力；

3）應具備深度偽造內容鑒別能力；

4）應具備深度偽造內容分級管理能力；

5）應具備黑名單管理能力；

6）應具備深度偽造內容應急處置能力；

7）鼓勵視聽機構開展黑名單可信共享。

提出了分級治理要求，按照深度偽造內容的危害程度，將其分為三級，其中一級的危害程度最高，三級的危害程度最低：

1）一級是指涉及重要人物音頻、影像的深度偽造內容；

2）二級是指不涉及重要人物音頻、影像的新聞類深度偽造內容；

3）三級是指不涉及重要人物音頻、影像的非新聞類的深度偽造內容。

廣播電視和網(wǎng)絡視聽機構應具備深度偽造內容分級管理能力，要求如下：

1）應具備將深度偽造內容及時更新到黑名單中的能力；

2）應具備將一級和二級偽造內容與原始視聽內容關聯(lián)的管理機制，具備支撐應急處置情況下將一級和二級偽造內容及時替換為原始視聽內容的能力；

3）應具備及時下線偽造內容的能力。

廣播電視和網(wǎng)絡視聽機構深度偽造防范能力系統(tǒng)應具備人技一體的防范機制，具體要求如下：

1）系統(tǒng)判定在黑名單中的視聽內容應交由人工審核處理；

2）不在黑名單中的內容應同時開展重要人物面部識別和深度偽造鑒別，根據(jù)重要人物面部識別和深度偽造鑒別結果做如下處理：

a）識別為包含重要人物，并且深度偽造鑒別為非偽造的，應直接進入人工審核流程，按照本機構的法定許可范圍進行相應處理；

b）識別為包含重要人物或與重要人物相似，并且深度偽造鑒別為偽造的，應由人工審核確認為一級深度偽造內容后加入到黑名單中。

3）識別為不包含重要人物，并且深度偽造鑒別為偽造的，根據(jù)內容的屬性由人工審核進行處理：

a）如果內容屬性為新聞類，應由人工審核確認為二級深度偽造內容后加入到黑名單中；

b）如果內容屬性為非新聞類，但人工審核確認屬于第三級的深度偽造內容，應禁止通過審核。

（4）識別為不包含重要人物，并且深度偽造鑒別為非偽造的，按照廣播電視和網(wǎng)絡視聽機構日常審核流程處理。

黑名單功能要求方面，文件中指出，黑名單是指禁止播出的視聽內容基本信息及其視音頻特征信息的集合。廣播電視和網(wǎng)絡視聽機構部署的黑名單技術系統(tǒng)應滿足以下功能要求：

（1）黑名單中的內容應包括：鑒別為偽造且包含重要人物音頻和影像的內容、鑒別為偽造的新聞內容等；

（2）黑名單元數(shù)據(jù)應包括：內容類型、基本信息、視音頻特征信息、存儲路徑、音視頻文本內容等；

（3）黑名單技術系統(tǒng)應具備視頻特征分析技術，支持視音頻內容的匹配與過濾；

（4）黑名單技術系統(tǒng)應具備對黑名單數(shù)據(jù)增加、刪除、修改等管理功能。