▲INDOS UNVEIL ピックアップ 2025年10月31日~11月06日
米国はICEやCBPを擁する国土安全保障省(DHS)によって高度監視社会化が加速している。Flockを代表とする監視サービスベンダが政府機関に手軽かつ効果的な監視網を提供開始している。社会の不安定化に対する安易な処方箋として規制と監視の強化が行われやすく、日本でも同様のことが起こる可能性がある。
以前紹介したように社会の不安定化への対策は大きく2つ。ひとつは監視強化、もうひとつは不安定化のもととなる社会問題の解決。権威主義国では権威主義であること自体が問題になることもあるので前者しか選択肢はない。民主主義国は後者を選択すべきだが、わかりやすい対策ではないため選挙で負ける要因になる。
AIの高度化にともなって、その悪用が広がっている。OpenAIのSora2の悪用でわかるように透かしやラベルを気にせずに拡散や閲覧を行う者は多く、対策として機能していない。また、規制を提案すべき政治家が率先して悪用していることも問題だ。
・出典(記事数:37件)
・アメリカの技術が中国に流出するリスクが高まる中、米政府はビッグテックが監視技術などを中国に提供することを容認してきた。背景には莫大な資金を投じたロビイスト活動やクラウド(チップやサーバーは売れなくてもサービスは売れる)などの抜け道の利用があった。
US government allowed and even helped US firms sell tech used for surveillance in China, AP finds - AP News 2025/10/31
https://apnews.com/article/chinese-surveillance-silicon-valley-trump-administration-congress-21c5f961b1fd22f9a9e563ebe64e5582
・以前、FA誌に掲載され話題になった記事を元にした記事。AIによって革命的に諜報活動が変わると主張。数世代遅れの内容なので、これが注目されるということは諜報分野のAI活用で中露にかなり遅れを取っていそう。
Artificial intelligence and the future of espionage - The Strategist 2025/10/30
https://www.aspistrategist.org.au/artificial-intelligence-and-the-future-of-espionage/
・NY市長選での敗退以降、虎視眈々と復帰を狙っている元NY視聴クオモがAIに生成させた俗悪なパロディ動画を使って、現市長のマムダニに嫌がらせ。こうやってAIは情報空間を汚染する。
Andrew Cuomo Uses AI MPREG Schoolhouse Rock Bill to Attack Mamdani, Is Out of Ideas - 404 Media 2025/10/30
https://www.404media.co/ai-generated-mpreg-schoolhouse-rock-ad-attacking-mamdani-is-the-sad-poliaesthetic-of-our-time/
・ISDから現在のSNS規制は巨大SNSに焦点をあてているが、反主流派は横断的にSNSを活用しており、小規模のSNSが重要な役割を果たしていることも多い。現在の対策は実効性に問題があり、見直す必要がある。たとえば、過去のレポートでは米連邦議事堂襲撃事件で小規模SNSのParlerが果たした役割をNEW AMERIKAとアリゾナ州立大学およびプリンストン大学のBridging Divides Initiativeが莫大データをもとに分析した。
Addressing Illegal Harms on Small and Emerging Platforms: Regulatory Challenges and Gaps - ISD 2025/10/29
https://www.isdglobal.org/isd-publications/addressing-illegal-harms-on-small-and-emerging-platforms-regulatory-challenges-and-gaps/
昨年(2021年)の合衆国議会議事堂暴動を生んだ暴力のエコシステム「Parler and the Road to the Capitol Attack」 - 一田和樹のメモ帳 2022/04/07
・活動するメディア、404Mediaが自ら開示請求を行って入手したICEとCBPによる顔認識アプリ=Mobile Fortify利用の実態。撮影した画像はDBと照合され、個人を特定する。個人がこのアプリで認識されることを拒否する権利はなく、詳細なデータは15年間保管される。つまりICEとCBPは無差別に誰でも顔認識で個人情報を確認できる。
You Can't Refuse To Be Scanned by ICE's Facial Recognition App, DHS Document Says - 404 Media 2025/10/31
https://www.404media.co/you-cant-refuse-to-be-scanned-by-ices-facial-recognition-app-dhs-document-says/
・ISDとHope and Courage Collective (H&CC) はアイルランド大統領選挙での干渉に関するレポートを公開した。立候補締切日と投票日にピークがあり、もっとも悪用されたSNSはX、AI利用コンテンツなどによる個人攻撃が行われたが、SNSから有効な対処はなかった。投票放棄を訴える投稿が多く拡散し、偽情報、移民、LGBTQ+の拡散を助長。
Irish presidential election 2025: Renewed attacks on election integrity and repeated platform failures - ISD 2025/10/31
https://www.isdglobal.org/digital_dispatches/irish-presidential-election-2025-renewed-attacks-on-election-integrity-and-repeated-platform-failures/
・全米を網羅する監視カメラシステムFlockはほとんどのアメリカの警察が利用している。デンバーで起きたFlock映像が元の誤認逮捕のいきさつ。監視システムとAI利用の拡大は同時に誤認と冤罪を拡大するよい実例。
Police used Flock cameras to accuse a Denver woman of package theft. She had her own evidence - Denverite 20250/10/27
https://denverite.com/2025/10/27/bow-mar-flock-cameras-accusation/
・米政府シャットダウンの影響で貧困にあえぐ人々に栄養を支援するフードスタンプも停止となっている。差別的なインフルエンサーがフードスタンプを金に換えている動画をSora2で生成し、拡散している。動画にはAI生成である透かしが入っているが、ほとんどが気づかず閲覧、拡散している。
Racist Influencers Using OpenAI’s Sora to Make it Look Like Poor People Are Selling Food Stamps for Cash - Futurism 2025/10/31
https://futurism.com/artificial-intelligence/racist-sora-snap-welfare
・AIによる嫌がらせや脅迫が相手を自殺に追い込む現実。Sora2やGrokによってよりリアルで恐ろしい画像、音声、動画でネット上の相手を攻撃することが可能になった。
A.I. Is Making Death Threats Way More Realistic - The New York Times 2025/10/31
https://www.nytimes.com/2025/10/31/business/media/artificial-intelligence-death-threats.html
・ハーダー監督の新作映画「Influencers」が話題。インフルエンサーを題材にしたサスペンス。
How ‘Influencers’ Director Kurtis David Harder Updated ‘Talented Mr. Ripley’ for the Social Media Age and Shot a Globetrotting Film on an Indie Budget ? FilmQuest - Variety 2025/11/01
https://variety.com/2025/film/features/influencers-cw-conwoman-social-media-thriller-1236561347/
・イギリスの大学が中国からの圧力で人権に関する研究を中止。中国はイギリスだけでなく欧米の多くの国に大量の留学生を送り込み、資金を提供し続けてきた。当然、その影響力は大きくなる。すでに5年前に記事にしていたことなので、これまでなんの対策も打っていないことに驚く。
UK university halted human rights research after pressure from China - The Guardian 2025/11/03
https://www.theguardian.com/education/2025/nov/03/uk-university-halted-human-rights-research-after-pressure-from-china
中国と一帯一路が引き起こす世界の教育の変容 - Newsweek日本版 2020/07/08
https://www.newsweekjapan.jp/ichida/2020/07/post-1.php
・スコットランド・ヤードの名称で知られるロンドン警視庁は、事件が発生した際の極右の陰謀論に対抗するため被疑者の人種を開示せざるを得なくなったと発表。
Police ‘forced to disclose ethnicity of suspects to counter far-right speculation’- The Guardian 2025/11/02
https://www.theguardian.com/uk-news/2025/nov/02/police-disclose-ethnicity-suspects-far-right-speculation
・MetaはAI開発競争では遅れをとっているが、ビジネスとしては成功。「Advantage+」と「Andromeda」というAI広告サービスはAIがターゲッティングし、それぞれに合わせたクリエイティブをAIが生成するもの。画像生成能力は競合他社より劣るが、広告費用を大幅に削減できる。
The Future of Advertising Is AI Generated Ads That Are Directly Personalized to You - 404 Media 2025/11/03
https://www.404media.co/the-future-of-advertising-is-ai-generated-ads-that-are-directly-personalized-to-you/
・学術領域のプレプリントプラットフォームarXivは、コンピュータサイエンスの記事の受付を停止した。理由はAI分野での粗製濫造された論文などであふれているため。いずれ他の分野もそうなる?
arXiv Changes Rules After Getting Spammed With AI-Generated 'Research' Papers - 404 Media
https://www.404media.co/arxiv-changes-rules-after-getting-spammed-with-ai-generated-research-papers/
・この論文ではネット上の問題発言をコミュニティへの帰属の文脈で分析。Telegramのグループをサンプルとして解析した結果、問題発言は相手を傷つけるだけでなく、コミュニティへの帰属を示すシグナルでもある。モデレーションは発言そのものだけでなく、文脈的理解に立つことが重要。
Online toxic speech as positioning acts: Hate as discursive mechanisms for othering and belonging - Social Media Lab 2025/11/03
https://socialmedialab.ca/2025/11/03/new-paper-alert-online-toxic-speech-as-positioning-acts-hate-as-discursive-mechanisms-for-othering-and-belonging/
・ロシア・ウクライナ戦争にかかわるTelegramの投稿を分析。ロシアのナラティブが世界に向けて展開されている状況を整理した論文。
Who’s Telling the Story of the Russia-Ukraine War on Telegram? - Social Media Lab 2025/10/27
https://socialmedialab.ca/2025/10/27/new-paper-alert-whos-telling-the-story-of-the-russia-ukraine-war-on-telegram/
・EUがChatGPTをDSAの対象に含めることを検討。含めれば間違いなくアメリカとの軋轢が増しそう。
EU Weighs Regulating OpenAI’s ChatGPT Under the DSA. What Does That Mean? - Tech Policy Press 2025/10/29
https://www.techpolicy.press/eu-weighs-regulating-openais-chatgpt-under-the-dsa-what-does-that-mean/
・EUはOpenAIをDSAの対象にしようとするが、すでに同社はAI法の対象となっており、重複しての適用になることなど議論がまとまらないらしい。
The EU can’t figure out what to do about ChatGPT - POLITICO 2025/11/03
https://www.politico.eu/article/eu-chatgpt-ai-digital-law-tech-openai-regulations-legal/
・国防総省が一部例外をのぞき、公式SNSアカウントの投稿を来年2月3日まで停止。
Pentagon pausing official social media accounts worldwide for review - NBC News 2025/01/25
https://www.nbcnews.com/investigations/pentagon-pausing-official-social-media-accounts-worldwide-review-rcna189221
・米国土安全保障省(DHS)は移民税関捜査局(ICE)を監督する省である。職員の新規採用のために白人至上主義やネオナチなどのイメージを用いた情報発信を行っている。当然ながら白人至上主義者や極右などは大歓迎。
DHS’ Racist Social Media Posts Beloved by Neo-Nazis and Other Extremists, and They Know It - Global Project Against Hate and Extremism 2025/10/30
https://globalextremism.org/post/dhs-racist-social-media-posts/
・CSSのリサーチャーによるウクライナ以後のサイバー作戦についての考察。非国家アクターとのかかわりを中心にキネティックとの関係、認知戦、法律など多様な角度から整理し、まとめている。
Offensive Cyber Operations and Combat Effectiveness After Ukraine - Lawfare 2025/11/03
https://www.lawfaremedia.org/article/offensive-cyber-operations-and-combat-effectiveness-after-ukraine
・ICEやCBPがMobile Identifyを使って顔認識で瞬時に詳細な個人情報を確認するものだ。このアプリを各地の警察に提供を開始した。34州の555機関が警察が移民執行権限を持てる287(g)プログラムに参加しており、参加機関はこのアプリを利用できる。なお、このアプリのダウンロードだけならGoogle Playでできる。
DHS Gives Local Cops a Facial Recognition App To Find Immigrants - 404 Media 2025/11/04
https://www.404media.co/cbp-quietly-launches-face-scanning-app-for-local-cops-to-do-immigration-enforcement/
・EU高官の携帯電話位置情報がデータブローカーによって販売されていた。販売先は外国政府や軍。日本の政治家や行政の情報も売られていそう。
Phone location data of top EU officials for sale, report finds - TechCrunch 2025/11/04
https://techcrunch.com/2025/11/04/phone-location-data-of-top-eu-officials-for-sale-report-finds/
・Shopifyによれば今年1月からAIからのトラフィックは7倍、売上は11倍に増加した。同社は現在、AIエージェントとの連携強化拡大に邁進している。MetaがポンコツAIが広告収益に貢献していることと合わせると、AIにとっては人間ってちょろい。
Shopify says AI traffic is up 7x since January, AI-driven orders are up 11x - TechCrunch 2025/11/04
https://techcrunch.com/2025/11/04/shopify-says-ai-traffic-is-up-7x-since-january-ai-driven-orders-are-up-11x/
・GRU第29155部隊工作員の数奇な運命。工作員として活動を続けたのち、現在は認知戦に携わっている。長文だが、おもしろい。工作員の採用から偽造人生とその終了とその後までのルポってあまりないかも。
A champion like no other: The curious life of a Unit 29155 operative - The Insider 2025/11/04
https://theins.ru/en/inv/286477
・EUはAI規制の一環としてディープフェイクの表示方法について業界と検討に入ったものの、強まるEUの規制に反発や警戒もある。そもそも効果ないのでは?
EU starts talks with industry on how to label AI deepfakes - POLITICO 2025/11/04
https://www.politico.eu/article/eu-tech-ai-deepfakes-labeling-rules-images-elections-iti-c2pa/
・MetaのAI眼鏡の改造キットが出回り、顔認識機能を搭載可能で見た人を瞬時に特定できる可能性、さらに盗撮動画の撮影など悪用が発生。きわめて危険で悪用用途の多い製品。
Podcast: People Are Modding Meta Ray-Bans to Spy On You - 404 Media 2025/11/05
https://www.404media.co/podcast-people-are-modding-meta-ray-bans-to-spy-on-you/
What’s the Difference Between AI Glasses and an iPhone? A Helpful Guide for Meta PR - 404 Media 2025/11/05
https://www.404media.co/whats-the-difference-between-ai-glasses-and-an-iphone-a-helpful-guide-for-meta-pr/
・ネットの情報空間はリアルでのヘイトやジェンダー暴力あるいは紛争を加速させる可能性を持っている。ISDによる予防措置の提言。政府、プラットフォームなど包括的な内容となっている。
Assessing and Mitigating Conflict-Related Online Risks: Challenges for Governments, Regulators and Online Platforms - ISD 2025/11/05
https://www.isdglobal.org/isd-publications/assessing-and-mitigating-conflict-related-online-risks-challenges-for-governments-regulators-and-online-platforms/
・ソフトバンクとOpenAIは日本企業向けのエンタープライズ製品Crystal intelligenceを提供する合弁会社SB OAI Japanを設立した。
SoftBank, OpenAI launch new joint venture in Japan as AI deals grow ever more circular - TechCrunch 2025/11/05
https://techcrunch.com/2025/11/05/softbank-openai-launch-new-joint-venture-in-japan-as-ai-deals-grow-ever-more-circular/
・マッチングアプリ戦争の中で苦境に立つTinderは利用者への質問とカメラロール画像で興味や性格を把握してマッチングするChemistryという機能をテスト中。
Tinder to use AI to get to know users, tap into their Camera Roll Sarah Perez - TechCrunch 2025/11/05
https://techcrunch.com/2025/11/05/tinder-to-use-ai-to-get-to-know-users-tap-into-their-camera-roll-photos/
・YouTubeはガザ地区におけるイスラエルの人権侵害を記録した700本以上の動画をトランプ政権の圧力を受けて削除していた。
YouTube Quietly Erased More Than 700 Videos Documenting Israeli Human Rights Violations - The Intercept 2025/11/04
https://theintercept.com/2025/11/04/youtube-google-israel-palestine-human-rights-censorship/
・Gemini Deep Research はGmail、チャットなどをサーチすることが可能に。利用者が情報源として指定することでサーチ対象に含まれるようになる。
Gemini Deep Research can tap into your Gmail and Google Drive - 9to5google 2025/11/05
https://9to5google.com/2025/11/05/gemini-deep-research-google-drive-gmail/
・米超党派で企業がAIによって人員削減を行った場合、報告を義務づける法案を提出。これにより、雇用への影響を把握する。
New bipartisan bill would require companies to report AI job losses - CNBC 2025/11/05
https://www.cnbc.com/2025/11/05/ai-jobs-act-warner-hawley.html
すでに登録済みの方は こちら