由於網路上的假消息充斥，產學攜手開發從偵測來源到判定消息真僞的綜合系統
來源：NHK, 16 OCT 2024, 原文網址
インターネット上の偽情報が課題となる中、大手メーカーや大学などが連携して、偽情報の検知から真偽の判定までを総合的に行うシステムを共同で開発することになりました。
如今網路上的假消息充斥已經成了一個重大課題，資訊大廠與大學等等將合作開發一個能從偵測來源到判定消息真僞的綜合系統。
システムの開発は、富士通やNECのほか、慶應義塾大学や国立情報学研究所などが参加する予定で、16日、記者会見を開いて公表しました。
系統的開發規劃由富士通、NEC（日本電氣會社）、慶應大學與國立資訊研究所等等參加，10/16召開了記者會公佈此消息。
システムは、企業や大学などでそれぞれ研究開発していた技術を統合して、偽情報の検知から情報の分析や真偽の判定までを行うとしています。
系統方面將統合企業與大學等個別開發出的技術，執行從偵測假消息來源到判定消息真僞等相關工作。
この中では、関連したニュースや第三者による画像なども含めて分析するほか、偽の画像や映像を作成する「ディープフェイク」の生成の手法なども学習して解析するとしています。
其中除了會分析相關的新聞與由第三方產生的圖片之外，也會學著分析用來製作假圖與假影片的"deepfake"手法。
また、過去の偽情報の類似度や拡散の速度から社会への影響も分析するとしていて、来年度末までにシステムを構築するとしています。
此外，系統還能從過去類似的假消息與擴散速度分析對社會的影響，系統的建置將於明年底前完成。
記者会見で、富士通の「データ＆セキュリティ研究所」の山本大さんは「部分的にみると判定できないものでも、情報を集めて統合的に分析すれば判定できるようになってくると思う」と話していました。
在記者招待會中，富士通的"數據與安全研究所"的山本大先生說："就算有只看部分是無法研判的東西、但只要將收集到的資訊統合起來分析之後、我認爲就能判斷出來了。"
生成AIの利用が広がる中、インターネット上で偽情報が拡散する懸念も高まっていて、企業や大学などで偽情報の対策に向けた開発の動きが相次いでいます。
生成式AI已廣泛使用的情形下，對網路上假消息肆虐的擔憂也與日俱增。業界與學界也一個接着一個投注資源開發對抗假消息的各項應對措施。
偽情報や誤情報が拡散 対策のシステム開発の背景は
開發應對錯假消息的系統的背景知識
今回の取り組みの背景には、SNSなどで偽の情報や誤った情報が広く拡散され、社会に悪影響を与えていることがあります。
爲何這次大家要攜手合作呢，原來是透過社交媒體廣泛流傳的錯假訊息，已經對社會產生不良影響了。
ことし1月の能登半島地震の際には、実在しない住所などを記載した偽の救助要請の投稿が、旧ツイッター、「X」で多く拡散されました。
今年一月能登半島發生地震的時候，在原本的twitter、現在的"X"上流傳着很多假冒的援助請求的發文，但上面紀載的地址其實根本不存在。
ことし7月には、能登半島地震の被災者を装ってSNS上で救助を求めるうその投稿を繰り返し、警察などの捜索活動を妨害したとして、埼玉県の会社員が偽計業務妨害の疑いで逮捕される事態も起きました。
今年七月，發生了有人假扮能登半島地震的受害者，在社交媒體上反覆的發送求救的騙人貼文，進而妨害了警方的搜救行動。最後抓到一名住在埼玉縣的上班族，他涉嫌以僞詐方式妨礙公務而遭到逮捕。
さらに、ことし8月に南海トラフ地震への注意を呼びかける臨時情報が出された際にも、特定の日にちを挙げて「南海トラフは起こる」などとする科学的な根拠のない投稿が3500万回以上見られるなど、災害のたびに偽情報や不安をあおるような情報が広がる状況になっています。
此外，今年八月時發布了注意南海海槽地震的臨時訊息時也出現了聲稱某日就會發生南海海槽地震等毫無科學根據的貼文，卻有超過3500萬觀看數。每次有災害時，假消息與煽動不安情緒的資訊就會變得四處蔓延。
また、選挙をめぐっても偽情報や誤った情報が広く拡散することが多くなっています。
此外，圍繞在選舉話題的錯假情報廣泛流傳的情況也變得越來越常見。
アメリカ大統領選挙では、ハリス副大統領やトランプ前大統領が実際には話していない内容を話したかのように見せる偽の動画も拡散しました。
例如像是美國總統大選，也有流傳出賀錦麗副總統與川普前總統像是說了他們明明沒說的話的假造影片。
こうした偽の動画は生成AIを使ってつくられたとみられ、「ディープフェイク」と呼ばれています。
像這樣的僞造影片被認為是透過生成式AI製造出來，這稱之為"Deep Fake"。
今回のシステムでは、大手メーカーや大学などがそれぞれの得意とする技術を持ち寄って、偽情報かどうかの判定やその根拠となる情報を統合的に分析・評価することがポイントです。
這次要做的系統重點是大型開發商與大學等等大家都帶來各自拿手的技術，來綜合分析與評斷是否為假消息與其評判依據。
16日の会見で、生成AIによる動画や画像の分析を担当する国立情報学研究所の山岸順一教授は「生成AIで作られた動画を検知する技術では改ざんの可能性を示すもので、すぐに偽情報と判断できるわけではない。判定にはコンテクストが重要で、複合的に考える必要がある」と指摘しています。
16日的記者招待會上，負責分析由生成式AI製作的影片與圖片的國立資訊研究所的山岸順一教授指出檢測技術顯示透過生成式AI製作的影片確有篡改內容的可能，但也不能立即判定為假消息。要判定的話前後文很重要，需要進行多方面的考慮才行。
註釋：
検知(けんち)：偵測
連携(れんけい)：合作
懸念(けねん)：擔憂
相次(あいつ)ぐ：一個接著一個
取り組み(とりくみ)：努力、措施
繰り返し(くりかえし)：反覆
南海トラフ：南海海槽，位於
煽(あお)る：煽動
こうした：這樣的、像這種的
持ち寄る(もちよる)：攜帶來、彙總
指摘(してき)：指出
改ざん：篡改
沒有留言:
張貼留言