語音克隆聽起來像科幻小說,但它已經(jīng)在發(fā)生
快速發(fā)展人工智能 (AI)既帶來了好處,也帶來了風(fēng)險。
一個令人擔(dān)憂的趨勢是濫用語音克隆。在幾秒鐘內(nèi),詐騙者可以克隆一個聲音并誘騙人們認為朋友或家人急需錢。
新聞媒體,包括美國有線電視新聞網(wǎng) (CNN,警告這些類型的騙局有可能影響數(shù)百萬人。
隨著技術(shù)使犯罪分子更容易侵入我們的個人空間,因此對其使用保持謹慎比以往任何時候都更加重要。
什么是語音克?。?/h2>
AI 的興起為圖像、文本、語音生成和機器學(xué)習(xí).
雖然 AI 提供了許多好處,但它也為欺詐者提供了利用個人賺錢的新方法。
你可能聽說過”深度偽造“,其中 AI 用于創(chuàng)建虛假圖像、視頻甚至音頻,通常涉及脫口秀或政客。
語音克隆是一種深度偽造技術(shù),它通過從簡短的音頻樣本中捕獲一個人的語音模式、口音和呼吸來創(chuàng)建一個人聲音的數(shù)字副本。
捕獲語音模式后,AI 語音生成器可以將文本輸入轉(zhuǎn)換為類似于目標人員聲音的高度逼真的語音。
借助先進的技術(shù),只需一個 3 秒的音頻樣本.
雖然像“你好,有人在嗎?”這樣的簡單短語可能會導(dǎo)致語音克隆騙局,但更長的對話有助于騙子捕獲更多語音細節(jié)。因此,最好保持通話簡短,直到您確定來電者的身份。
語音克隆在娛樂和醫(yī)療保健領(lǐng)域具有有價值的應(yīng)用——使藝術(shù)家能夠遠程進行語音工作(甚至死后)和幫助語言障礙者。
然而,它引發(fā)了嚴重的隱私和安全問題,凸顯了保護措施的必要性。
犯罪分子如何利用它
網(wǎng)絡(luò)犯罪分子利用語音克隆技術(shù)冒充名人、權(quán)威人士或普通人進行欺詐。
他們制造緊迫感,獲得受害者的信任,并通過禮品卡、電匯或加密貨幣索要錢財。
過程開始通過從 YouTube 和 TikTok 等來源收集音頻樣本。
接下來,該技術(shù)分析音頻以生成新的錄音。
一旦語音被克隆,它就可以用于欺騙性通信,通常伴隨著欺騙性的來電顯示,以顯得值得信賴。
許多語音克隆詐騙案件成為頭條新聞。
例如,犯罪分子克隆了公司董事在阿拉伯聯(lián)合酋長國策劃了一起價值 5100 萬$A的搶劫案。
一個孟買的商人成為語音克隆騙局的受害者,該騙局涉及印度駐迪拜大使館的虛假電話。
最近在澳大利亞,詐騙者使用了昆士蘭州州長史蒂文·邁爾斯試圖誘騙人們投資比特幣。
青少年和兒童也成為目標。在綁架騙局在美國,一個青少年的聲音被克隆出來,她的父母縱服從要求。
它有多廣泛?
最近研究顯示去年英國 28% 的成年人面臨語音克隆騙局,其中 46% 的人不知道此類騙局的存在。
它凸顯了巨大的知識差距,使數(shù)百萬人面臨欺詐風(fēng)險。
2022 年,近 240,000 名澳大利亞人報告成為語音克隆騙局的受害者,導(dǎo)致$A 5.68 億.
個人和組織如何防范
語音克隆帶來的風(fēng)險需要多學(xué)科應(yīng)對.
個人和組織可以實施多種措施來防止濫用語音克隆技術(shù)。
第一公眾意識運動和教育可以幫助保護人員和組織并減少此類欺詐。
公私協(xié)作可以為語音克隆提供明確的信息和同意選項。
其次,個人和組織應(yīng)該著眼于使用具有活體檢測功能的生物識別安全性,這是一種新技術(shù),可以識別和驗證實時語音,而不是假語音。使用語音識別的組織應(yīng)考慮采用多因素身份驗證。
第三,加強針對語音克隆的調(diào)查能力是執(zhí)法的另一項重要措施。
最后準確和最新的法規(guī)因為需要國家來管理相關(guān)風(fēng)險。
澳大利亞執(zhí)法部門認識到 AI 的潛在優(yōu)勢。
然而,對這項技術(shù)的“陰暗面”的擔(dān)憂促使人們呼吁對”用于受害者目標定位的人工智能."
還有人呼吁執(zhí)法部門可以采用可能的干預(yù)策略來解決這個問題。
這些努力應(yīng)該與整體打擊網(wǎng)絡(luò)犯罪的國家計劃,該策略側(cè)重于主動、被動和恢復(fù)性策略。
該國家計劃規(guī)定了服務(wù)提供商的注意義務(wù),這反映在澳大利亞政府的新立法保護公眾和小企業(yè)。
該立法旨在規(guī)定預(yù)防、檢測、報告和打擊詐騙的新義務(wù)。
這將適用于受監(jiān)管的組織,例如電信公司、銀行和數(shù)字平臺提供商。目標是通過預(yù)防、檢測、報告和中斷來保護客戶涉及欺騙的網(wǎng)絡(luò)詐騙.
降低風(fēng)險
由于網(wǎng)絡(luò)犯罪給澳大利亞經(jīng)濟造成的損失估計為420 億澳元、公眾意識和強有力的保障措施是必不可少的。
澳大利亞等國家正在認識到日益增長的風(fēng)險。針對語音克隆和其他欺詐的措施的有效性取決于其適應(yīng)性、成本、可行性和合規(guī)性。
所有利益相關(guān)者——政府、公民和執(zhí)法部門——都必須保持警惕并提高公眾意識,以減少受害的風(fēng)險。
林淑芬,警務(wù)研究高級講師,查爾斯特大學(xué);杜安·阿斯萊特,警務(wù)研究高級講師,查爾斯特大學(xué);Geberew Tulu Mekonnen, 警務(wù)學(xué)院講師,查爾斯特大學(xué)和姆拉登·澤切維奇, 警務(wù)研究學(xué)院講師,查爾斯特大學(xué)
本文轉(zhuǎn)載自對話根據(jù) Creative Commons 許可。閱讀原創(chuàng)文章.
湖北農(nóng)機化
農(nóng)業(yè)基礎(chǔ)科學(xué) - 省級期刊
電子元器件與信息技術(shù)
信息科技 - 國家級期刊
農(nóng)民致富之友
農(nóng)業(yè)經(jīng)濟 - 省級期刊
法制與社會
合作期刊 - 省級期刊
拳擊與格斗
合作期刊 - 省級期刊
四川水泥
合作期刊 - 省級期刊
今日畜牧獸醫(yī)
合作期刊 - 省級期刊
西部素質(zhì)教育
合作期刊 - 省級期刊
農(nóng)業(yè)與技術(shù)
農(nóng)業(yè)綜合 - 國家級期刊
住宅與房地產(chǎn)
合作期刊 - 省級期刊
畜牧獸醫(yī)科學(xué)
醫(yī)藥衛(wèi)生綜合 - 國家級期刊