挑戰！10秒內找出AI生成的視頻 【字幕】挑戰：10秒內找出AI生成的視頻。
【視頻快剪】 【解說】大家剛剛畫面中所看到的這些視頻，其實都是假的。這些以假亂真的視頻，都是由AI公司OpenAI發布的AI視頻模型Sora生成出來的。2月16日，OpenAI發布首個AI視頻模型Sora，60秒的一鏡到底視頻效果逼真，毫無破綻。在其官網的其他視頻可見，AI生成的視頻中，人物動作、神態都十分自然，連臉上的毛孔都清晰可見。 【解說】另一個值得關注的焦點是時長。之前的很多AI視頻還掙扎在4秒連貫性的邊緣，但今次Sora生成的視頻，除了在質量和精細度上真假難辨之外，更是把視頻時長拉到了60秒，且生成的視頻還有同一主體多個角度的鏡頭畫面，從會踩奶的貓咪，到馳行的汽車，再到舞龍長隊。可以說，此次AI升級所帶來的“核彈”，從文字領域扔向了視頻領域。 【解說】技術進步為人類帶來的便利和驚喜固然是值得肯定的，但這也給已經複雜難辨的網絡世界蒙上了一層厚厚的紗布。不久前便有人將一段香港特區行政長官李家超的正常採訪視頻進行改造，使其說出仿造者想讓他說的話，聲音、口型皆一致。該段AI虛假視頻一度引來熱議，香港特區政府不得不親自下場闢謠。一直走在AI研究前沿的特斯拉行政總裁馬斯克也曾被“改過詞”。不僅可以“改詞”，還能改“語種”。前不久網絡上熱傳的多段“中國明星說英文”、“海外明星講中文”的視頻，便有部分是AI偽造的。如今這種“深度偽造”技術已經十分成熟，真假難辯。 【解說】這些以假亂真的視頻，除了引來人們的獵奇，也引起極大爭議。在這個信息繁雜的時代，“造謠一張嘴，辟謠跑斷腿”的案例早已屢見不鮮。如今隨著技術的更新迭代，造謠的門檻越來越低，真偽的辨別難度越來越高，我們正式進入了“眼見不能為實”的時代。若是相關技術被不法分子用以詆毀造謠、消費欺詐、引導投資、幹擾選舉等，勢必會給世界帶來混亂和危險。上月底，香港警方便接獲了首宗利用深偽手法進行多人視像會議的欺詐案件，騙徒鎖定了一間跨國公司，假冒英國總公司首席財務官，利用偽冒短訊指示香港下屬開多人視像會議進行秘密交易，多名“與會者”均是騙徒在網上下載真實影片，再用深偽技術，改變其口型及配上虛假聲音，最終受害公司合共被騙走2億港元。 【解說】怎麼辦呢？香港專業進修學校協理副校長林森表示，目前業界正積極研究用“AI偵測AI”，分析相關影像雜訊分佈等，準確率達70%以上。技術能跟上，法律呢？據了解，美國參眾議院分別於2018年、2019年提出《禁止惡意深度造假法案》草案與《深度偽造究責法案》草案，歐盟亦提出《人工智慧規則》草案。2023年8月15日，中國的《生成式人工智能服務管理暫行辦法》正式施行，這被認為是全球首部生成式 AI 立法。計劃跟不上變化，偵測技術也好，立法也好，大多數時候都會比技術更新本身慢半拍。歸根結底，還是要每一個人都多個心眼，多點防範，多核實多見面，才能在這“半拍”中避免被騙。 記者 孫晉欣 香港報道 |
