針對這一現(xiàn)象，全國人大代表李東生提出建議，應(yīng)對人工智能生成的內(nèi)容進行強制標識，以減少惡意濫用。他倡導(dǎo)加快出臺相關(guān)法規(guī)，明確懲戒措施，并加強國際合作，以促進AI技術(shù)的健康發(fā)展。 任何新興技術(shù)在早期發(fā)展階段都會經(jīng)歷一定程度的無序擴張，而當負面影響逐漸顯現(xiàn)，適度監(jiān)管便成為必要手段。對人工智能生成內(nèi)容進行強制標識是一項具有現(xiàn)實必要性的措施，不僅符合當前社會治理需求，也有助于未來行業(yè)的健康發(fā)展。 強制標識AI內(nèi)容，可促進行業(yè)規(guī)范化。強制標識機制將推動技術(shù)企業(yè)更加重視算法的安全性和倫理責(zé)任，促使行業(yè)向更加規(guī)范、有序的方向發(fā)展。哪些生成的內(nèi)容是錯的，需要懲罰的，應(yīng)詳細明確。中立的內(nèi)容被非法利用如何處置，都需要有應(yīng)對方法。 強制標識AI內(nèi)容，可增強信息透明度。通過明確標識AI生成內(nèi)容，公眾能夠更理性地辨別信息來源，減少因誤信虛假內(nèi)容而受騙的風(fēng)險。 強制標識AI內(nèi)容，可提高社會安全性。監(jiān)管部門可以通過標識機制更容易追溯問題內(nèi)容的來源，明確責(zé)任歸屬，并強化法律約束，防止AI技術(shù)被濫用于欺詐、造謠等不當用途。 但強制標識AI生成內(nèi)容在實際落地過程中仍然面臨不少挑戰(zhàn)。第一，如何確保標識不被篡改或移除仍是難點。目前，AI生成內(nèi)容的標識可通過水印、元數(shù)據(jù)嵌入、隱形編碼等技術(shù)實現(xiàn)，如果標識易被去除，則其監(jiān)管效果將大打折扣。第二，如何跨模型統(tǒng)一標識標準。AI模型的架構(gòu)和生成方式各不相同，確保不同模型間的互認，是一個需要解決的重要問題。第三，如何權(quán)衡性能與效率，存在挑戰(zhàn)。強制標識需要額外的計算和存儲資源，可能造成企業(yè)成本增加。尤其在AI直播、AI語音通話等實時場景下，如何嵌入標識而不影響生成速度和質(zhì)量，是技術(shù)上的另一大挑戰(zhàn)。 在實際推進強制標識AI生成內(nèi)容過程中，還需充分考慮技術(shù)可行性、行業(yè)承受能力以及監(jiān)管執(zhí)行效率，確保標識機制既能保障透明度，又不影響技術(shù)創(chuàng)新。比如，建立一個動態(tài)調(diào)整的監(jiān)管體系，通過不斷探索和優(yōu)化，最終形成符合社會、行業(yè)及技術(shù)發(fā)展需求的可持續(xù)監(jiān)管模式。
