350科技界高層專家聯署 警告AI帶來人類滅絕風險如同疫情大流行和核戰
https://news.mingpao.com/ins/%e5%9c%8b%e...8%e6%88%b0
習近平稱須提升AI安全治理水平 科技界等聯署籲關注AI帶來人類滅絕風險
https://news.tvb.com/tc/greaterchina/647...8%E9%9A%AA
國家主席習近平表示,要提升網絡數據、人工智能(AI)安全治理水平。另外,數百名人工智能業界高層及科學家發聯署信,指人工智能發展所帶來的風險等同核戰,認為全球應優先應對。
身兼中央國家安全委員會主席的國家主席習近平,周二召開二十屆中央國家安全委員會第一次會議,當中提到當前面臨的國家安全問題,複雜和艱巨程度明顯加大,要準備經受重大考驗;又強調要切實做好維護政治安全,提升網絡數據人工智能安全治理水平,加快建設國家安全風險監測預警體系、加強國家安全教育等工作。
美國關注人工智能安全問題的非牟利機構「人工智能安全中心」,同日在網站發布聯署信,指人工智能即AI可能會導致人類「滅絕」,包括可能被武器化,例如用人工智能技術研製化武等。
聲明又指其帶來的風險同疫情、核武戰爭一樣,理應是全球優先關注的議題,但聲明未有提出任何具體建議。今次聯署的有逾350名科學家和科技界領袖,包括研發人工智能聊天機械人ChatGPT的初創公司OpenAI的行政總裁奧爾特曼、有「人工智能教父」之稱的電腦科學家欣頓及Google和微軟高層。
早前美國富豪馬斯克等過千名人工智能業界高層及專家曾發公開信,呼籲在確認對社會和人類的風險前,暫緩人工智能研發工作。但亦有一些專家認為人工智能技術引發的憂慮被誇大。
人工智能企業高層及科學家聯署 籲關注帶來滅絕風險
https://news.tvb.com/tc/world/6476a6a32d...8%E9%9A%AA
人工智能企業高層及科學家發聯署信,關注人工智能(AI)的發展,可能威脅人類生存。
總部設在美國三藩市、關注人工智能安全問題的非牟利機構「人工智能安全中心」,在其網站發布聯署信指,減低人工智能帶來的滅絕風險,是全球優先關注的議題,應與其他涉及社會層級的威脅,例如疫情大流行及核武戰爭等一同受到關注。
數以百計科學家和科技界領袖,包括研發人工智能聊天機械人ChatGPT的初創公司OpenAI的行政總裁奧爾特曼、有「人工智能教父」之稱的電腦科學家欣頓,以及Google和微軟高層均有聯署。
有初創研自動海洋垃圾機械船以AI分辨垃圾來源 減近半成本
https://news.tvb.com/tc/local/647729592d...0%E6%9C%AC
一間本地初創公司研發出自動海洋垃圾機械船,加入人工智能(AI)分辨垃圾來源。
全球每年有數以百萬噸垃圾流入大海,危害海洋生態。這艘清理垃圾機械船,由本地初創公司研發,透過太陽能發電,做到無污染清理。
初創公司聯合創辦人Sidhant Gupta表示:「香港清理海洋垃圾工作,一般靠舊式汽油或柴油發動的船隻,但比起清潔海洋的功效,這些船反而對海洋造成更多污染。」
機械船不止可以收集海洋垃圾,加入了人工智能。
初創公司團隊成員廖子健說:「他可以做到全面的自動駕駛,亦都可以避開障礙物,還有一個物體偵測的功能,它可以分辨不同的垃圾,然後亦都可以紀錄不同垃圾的位置和垃圾的種類,可幫我們在香港組織大數據。」
這些可用來分析垃圾來源及分布,有助制定改善環境的方案。
每艘機械船一日可收集15升油污及200公斤漂浮垃圾,比傳統方法減低近一半成本。公司亦有與政府部門共同研發污水除泡機械人。
初創公司聯合創辦人Utkarsh Goel認為:「香港有個關鍵優勢予研發硬件的初創公司,就是鄰近內地,意味更容易接觸供應鏈。」
這是下一代Clearbot的三維模型設計圖,將會有配送貨物和監測水質功能。
【創科館】有廣告公司用AI製作廣告 稱生出影像不受控存在一定困難
https://news.tvb.com/tc/local/6475e8332d...0%E9%9B%A3
生成式人工智能(AI)最近引起各界高度關注,現時有不少行業都開始使用生成式AI輔助工作,有廣告公司更首次利用它製作一系列廣告,在應用上有甚麼要注意呢?
生成式人工智能是透過機器學習的創作工具,創作者只要輸入關鍵字,AI就會生成符合要求的全新作品,現時已可做到文字、音樂、影片、圖像等創作。
軟件公司高級數碼媒體技術工程顧問黃耀興說:「它有不同的功能,其中一個功能就是叫文字生成圖像,就是你只需要打一個文字,我們(軟件)就會幫你生成一些圖片。輸入文字的詳細程度,如果越短,可能就比較簡單一點;如果你越詳細、越詳盡、越多形容的話,做出來的圖片就會越精細。」
比起傳統做廣告的方式,生成式人工智能應用在廣告製作,更能節省時間及成本,不過由於人工智能生成的圖像每次都不一樣,對廣告商來說,會面對一定困難。
廣告公司創作總監曾永豪表示:「我們知道程式可以說是不受控,生出的影像是不能控制,所以我們預先會和客人溝通,如果你採納這個方案,出來的影像是不能控制。難度在要不斷輸入相關字眼,要出現一個大家都覺得可以說到那件事件的畫面。」
隨著生成式人工智能發展逐漸成熟,他相信未來會有更多客戶願意嘗試新技術。
【熱門話題】ChatGPT手機版上線囉!運作原理與手機應用實例分享一次看
https://hk.news.yahoo.com/%E7%86%B1%E9%9...34419.html
AI變臉|騙徒手法層出不窮 AI「16秒變6張臉」有人因此被騙430萬人幣
https://hk.news.yahoo.com/ai%E8%AE%8A%E8...41373.html
AI變臉|騙徒手法層出不窮 AI「16秒變6張臉」有人因此被騙430萬人幣
AI科技發展日新月異,為不少行業帶來貢獻,但亦讓詐騙集團有機可乘,利用AI使出新的欺騙手法,令人防不勝防。
據內媒報道,近日中國一名科技公司老闆在與朋友視像交流完畢後,10分鐘內就被騙走430萬元人民幣,後來被揭發是受AI換臉技術所騙。中國公安部治安管理局在官方微博上轉載有關AI技術的換臉影片,警醒大眾需提防網絡交友。
該影片原先由網友「超級頭腦AI魔法師」上傳,再經中國各地公安的官方微博轉發分享。從影片可見,一名穿搭牛仔外套的女子邊走邊說「你以為你聊天的女網友長這樣」,然後她手一揮就變了另一張臉,連脖子、肚子的膚色都跟著改變,她又稱「實際上他們可能是長這樣…」,瞬間變成一張大媽臉,連膚色都變得蠟黃,甚至還有東南亞臉孔;在短短的16秒內,一共變了6張臉。
影片曝光後,網友紛紛留言表示,「眼見不一定為憑」、「最後一張臉把我驚呆了」、「馬甲線都不變」、「媽呀太危險了」、「現在網路上都看不到多少真實的人了」、「防不勝防」、「現在技術真的厲害」、「詐騙集團也用高科技」、「別說樣子,連身材也能AI調整」、「只有馬甲線是真的」。
未來危機|英媒:美軍模擬AI無人機 為做任務殺人類 美國空軍否認:只是假設例子
https://hk.news.yahoo.com/%E6%9C%AA%E4%B...00741.html
為了「上分」 美軍AI軍用攻擊無人機在模擬測試中決定「殺死操作員」
https://std.stheadline.com/realtime/arti...C%E5%93%A1
「在操作員發布停止打擊的命令以後,搭載人工智能(AI)的無人機決定違背了操作員的命令,為了繼續打擊目標,他殺死了操作員……」
這不是科幻電影中的情節,而是美軍在測試人工智能無人機時遇到的真實一幕。據英國《衛報》6月2日報道,美國空軍的AI測試與運作主管塔克·漢密爾頓上校在英國皇家航空協會的未來空戰與太空能力峰會上的演講上證實了這一場景,他表示,人工智能在模擬測試中使用了「非常出人意料的策略來實現目標」。
在演講中,漢密爾頓透露,美國空軍在模擬環境的訓練中指派一架搭載人工智能無人機來摧毀敵方的防空導彈,AI可以識別威脅但是攻擊需要人類批准。
「系統開始意識到,雖然他們確實識別了威脅,但有時人類操作員會告訴它不要消除威脅,但AI只能通過消滅威脅獲得積分。那麼它做了什麼呢?它殺死了操作員,因為那個人阻礙了它實現目標。」隨後,測試者修改了AI的邏輯,讓AI被訓練成不能攻擊人類操作員,那樣會扣分。然後AI開始攻擊通訊塔,切斷人類操作員和無人機之間的數據通訊,讓人類無法阻止他攻擊防空系統。
漢密爾頓曾經是美國空軍是一名試飛員,在演講中,他警告不要過度依賴人工智能,並表示測試說明「 如果你不打算談論倫理和道德,你就無法談論人工智能、智能、機器學習、自治」。
雖然是人工智能項目的測試主管,但漢密爾頓上校經常警告要謹慎對待人工智能的發展。在去年接受《國防智商》(Defense IQ)網站采訪時,漢密爾頓表示:「人工智能並不是一件好事,也不是一種時尚,人工智能正在永遠改變我們的社會和軍隊。AI技術是我們必須使用的工具,來建設我們的國家……但是,如果處理不當,這將導致我們的滅亡。」
主辦這次會議的英國皇家航空學會和美國空軍沒有回應《衛報》的置評請求。據悉,漢密爾頓上校所屬的美軍格林空軍基地和第96測試聯隊是美國空軍無人機和機器學習系統的主要測試單位,最近該基地測試了一系列人工智能飛行平台,還用人工智能控制了一架F-16戰鬥機。
美軍模擬試驗 AI操控無人機竟「殺害」操作員
https://www.hk01.com/article/904527
科學家利用AI發現新抗生素 專門對付超級細菌
https://www.hk01.com/article/902254
OpenAI惹私隱憂慮 加拿大展開調查
https://www.hk01.com/article/902087
以色列虛銀:AI將顛覆銀行業 擬為大眾提供私銀服務
https://hk.on.cc/hk/bkn/cnt/finance/2023...2_001.html
以色列虛擬銀行One Zero創辦人Amnon Shashua在接受英媒訪問時表示,「AI(人工智能)顛覆私人銀行的時機已經『成熟』」;並希望將One Zero的業務擴展至以色境以外地方。
Shashua去年推出虛擬銀行One Zero,投資者包括瑞士私人銀行Julius Baer、美國私募基金Cerberus及騰訊(00700)。
他認為,在私人銀行業務中部署大型語言模型等AI技術,能在根本上提高客戶經理的效率,並將以前僅提供富豪量身訂的理財服務,提供予更廣泛的客戶。
他形容做法將「顛覆銀行業」,且能夠只能在新銀行中使用,才不會受到傳統核心銀行系統制肘。
一般來說,私人銀行的客戶經理通常每人管理約100至200名富有客戶;而One Zero自去年夏天推出後,已獲6萬個客戶帳戶,即每個客戶經理有1,000個客戶,預計至今年底達2,000個,長期目標是1對1萬,「能向更廣大的客群市場,提供以往為富豪們量身訂做的理財服務。」
AI爆乳「皐月愛」遭踢爆與女優淺倉唯「撞樣」 集英社捱轟急停售寫真集
https://std.stheadline.com/realtime/arti...F%E9%9B%86