谷歌最新的搜索工具告訴我們在披薩上涂膠水,然后吃石頭
谷歌已經(jīng)推出了最新的實驗性搜索功能在 Chrome、Firefox 和 Google 應(yīng)用程序瀏覽器上向數(shù)億用戶提供。
“AI 概述”通過使用生成式 AI(與競爭對手產(chǎn)品 ChatGPT 相同的技術(shù))來提供搜索結(jié)果的摘要,從而節(jié)省您點擊鏈接的時間。問“如何讓香蕉保持更長時間的新鮮”,它使用人工智能生成有用的提示摘要,例如將它們存放在陰涼、黑暗的地方,遠(yuǎn)離蘋果等其他水果。
但是問它一個左邊的問題,結(jié)果可能是災(zāi)難性的,甚至是危險的。
谷歌目前正在爭先恐后地逐一解決這些問題,但對于搜索巨頭來說,這是一場公關(guān)災(zāi)難,也是一場具有挑戰(zhàn)性的打地鼠游戲。
AI Overviews 很有幫助地告訴你,“打地鼠是一款經(jīng)典的街機游戲,玩家使用木槌擊打隨機彈出的鼴鼠以獲得分?jǐn)?shù)。該游戲由娛樂制造商TOGO于1975年在日本發(fā)明,最初被稱為Mogura Taiji或Mogura Tataki。
但 AI 概述也告訴你”宇航員在月球上遇見了貓,和他們一起玩,并提供照顧“。
更令人擔(dān)憂的是,它還建議“你應(yīng)該每天至少吃一小塊石頭“,因為”巖石是礦物質(zhì)的重要來源,并且維生素“,并建議把披薩配料中的膠水.
為什么會這樣?
一個基本問題是,生成式人工智能工具不知道什么是真實的,只知道什么是流行的。例如,網(wǎng)絡(luò)上關(guān)于吃石頭的文章并不多,因為這顯然是一個壞主意。
然而,有一個好讀的諷刺文章來自洋蔥關(guān)于吃石頭。因此,谷歌的人工智能基于流行的摘要,而不是真實的東西。
另一個問題是生成式人工智能工具沒有我們的價值觀。他們在網(wǎng)絡(luò)上接受了大量訓(xùn)練。
雖然復(fù)雜的技術(shù)(以異國情調(diào)的名字命名,例如”從人類反饋中強化學(xué)習(xí)“或 RLHF)用于消除最壞的情況,毫不奇怪,它們反映了一些偏見、陰謀論和更糟糕的網(wǎng)絡(luò)。事實上,考慮到人工智能聊天機器人的訓(xùn)練,我總是對它們有禮貌和乖巧感到驚訝。
這是搜索的未來嗎?
如果這真的是搜索的未來,那么我們將經(jīng)歷一段顛簸的旅程。當(dāng)然,谷歌是追趕與OpenAI和Microsoft合作。
引領(lǐng)人工智能競賽的經(jīng)濟激勵是巨大.因此,谷歌在將技術(shù)推向用戶手中時不如過去那么謹(jǐn)慎。
2023年,谷歌首席執(zhí)行官桑達(dá)爾·皮查伊(Sundar Pichai)說:
我們一直很謹(jǐn)慎。在某些領(lǐng)域,我們選擇不率先推出產(chǎn)品。我們已經(jīng)圍繞負(fù)責(zé)任的人工智能建立了良好的結(jié)構(gòu)。您將繼續(xù)看到我們慢慢來。
這似乎不再是那么真實,因為谷歌回應(yīng)批評它已經(jīng)成為一個龐大而昏昏欲睡的競爭對手。
冒險的舉動
這對谷歌來說是一個冒險的策略。它有可能失去公眾對谷歌的信任,因為谷歌是尋找(正確)問題答案的地方。
但谷歌也有可能破壞其價值數(shù)十億美元的商業(yè)模式。如果我們不再點擊鏈接,只需閱讀它們的摘要,谷歌如何繼續(xù)賺錢?
風(fēng)險不僅限于谷歌。我擔(dān)心人工智能的這種使用可能會對更廣泛的社會有害。真理已經(jīng)是一個有點爭議和可替代的想法。人工智能的謊言可能會使情況變得更糟。
十年后,我們可能會將 2024 年視為網(wǎng)絡(luò)的黃金時代,當(dāng)時大部分是高質(zhì)量的人類生成內(nèi)容,然后機器人接管了填滿了網(wǎng)絡(luò)與合成和越來越低的質(zhì)量AI 生成的內(nèi)容.
人工智能開始呼吸自己的廢氣了嗎?
第二代大型語言模型很可能無意中在一些第一代的輸出.許多 AI 初創(chuàng)公司都在吹捧培訓(xùn)的好處人工智能生成的合成數(shù)據(jù).
但是對當(dāng)前 AI 模型的廢氣進行訓(xùn)練即使是很小的偏見和錯誤也有可能放大.正如吸入廢氣對人類有害一樣,對人工智能也有害。
這些擔(dān)憂符合更大的圖景。全球超過4億美元(6億澳元)每天都在人工智能領(lǐng)域投資。鑒于這種投資洪流,政府現(xiàn)在才剛剛意識到我們可能需要護欄和監(jiān)管來確保負(fù)責(zé)任地使用人工智能。
制藥公司不得發(fā)布有害藥物。汽車公司也是如此。但到目前為止,科技公司在很大程度上被允許做他們喜歡的事情。
托比·沃爾什,人工智能教授,課題組組長,悉尼新南威爾士大學(xué)
湖北農(nóng)機化
農(nóng)業(yè)基礎(chǔ)科學(xué) - 省級期刊
企業(yè)文化
企業(yè)經(jīng)濟 - 省級期刊
糧食科技與經(jīng)濟
農(nóng)業(yè)綜合 - 國家級期刊
運輸經(jīng)理世界
交通運輸經(jīng)濟 - 國家級期刊
創(chuàng)新科技
合作期刊 - 省級期刊
科技智囊
合作期刊 - 國家級期刊
現(xiàn)代企業(yè)文化
企業(yè)經(jīng)濟 - 國家級期刊
試題與研究
合作期刊 - 省級期刊
高中數(shù)理化
中等教育 - 國家級期刊
新農(nóng)業(yè)
農(nóng)業(yè)綜合 - 省級期刊
傳媒論壇
合作期刊 - 省級期刊