2026年8月17日のAIニュース OpenAIがリスク評価チームを解散
今日の注目は、OpenAIがモデルの壊滅的なリスクを評価してきたPreparednessチームを解散していたことです。7月末に解散し、生物分野とサイバー分野のリスク評価は既存のチームへ振り分けられました。ほかに、Anthropicの生物兵器フィルターが約1年止まっていた件、AIへの反発は信頼の危機だとする同社経営者の発言、米国の働き手の5人に1人が同僚ではなくAIへ仕事を回しているという調査、自分のデータでモデルを比べられるOptimaの公開、そしてSpaceXによるCursor買収の完了の5件を取り上げます。
今日は、AIを作る側の安全体制に目が向いた日です。
OpenAIが、モデルの壊滅的なリスクを評価してきたPreparednessチームを7月末に解散していたことが分かりました。
ほかに、Anthropicの生物兵器フィルターが約1年止まっていた件、AIへの反発は信頼の危機だとする同社経営者の発言、米国の働き手の5人に1人が同僚ではなくAIへ仕事を回しているという調査、自分のデータでモデルを比べられるOptimaの公開、そしてSpaceXによるCursor買収の完了を取り上げます。
今日の注目 OpenAIが壊滅的リスクを見るチームを解散していました
OpenAIがPreparednessチームを7月末に解散していたことが、8月16日に報じられました。
Financial Timesの報道を、AI専門媒体のThe Decoderが伝えたものです。
Preparednessは、開発中のモデルが重大な被害や壊滅的な被害をもたらさないかを評価するために置かれた専任のチームでした。
解散にともない、生物分野とサイバー分野のリスク評価は、社内の既存のチームへ振り分けられています。
チームを率いていたDylan Scandinaro氏は、現在は自己改善を繰り返すAIの研究に取り組んでいるとされています。
共同創業者のGreg Brockman氏は、安全の作業をモデル開発そのものへより深く織り込んだと説明しています。
一方で、社内には懸念が広がったと報じられています。
安全分野の担当者が相次いで退職しており、そのなかには倫理責任者のChloe Bakalar氏やJoshua Achiam氏が含まれます。
The Decoderは、Hugging Faceで起きたAIによる自動的な侵入の一件のあと、社内に責任感と不安の入り混じった空気が生まれていたとする関係者の話も伝えています。
NotebookLM（現Gemini Notebook）を仕事で使っている方にとって、今回の件は機能の変更ではありません。
意味があるのは、資料を預ける相手の安全体制は外から見えにくく、しかも時間とともに変わるという点です。
社内資料をAIに読ませてよいかを判断するとき、提供元がいまどういう体制で危険性を評価しているかは、利用規約を読んでも分かりません。
今回のように、専任チームの有無が数か月で変わることもあります。
そのため、預けてよい資料の線引きは提供元の体制を前提にせず、自社の側で決めておくほうが安全です。
なお、この解散がOpenAI以外の製品に影響するかどうかは、報道の時点では触れられていません。
社内資料を扱うときの考え方はNotebookLMに社内資料を入れて大丈夫？にまとめています。
製品の名称が変わった経緯はNotebookLMがGemini Notebookに改称をご覧ください。
そのほかの動き
Anthropicの生物兵器フィルターが約1年止まっていました
The Decoderは8月16日、Anthropicの生物兵器に関するフィルターが約1年にわたって働いていなかったと伝えました。
止まっていたのは2025年5月から2026年4月までで、Anthropic自身が8月に公開したリスクレポートで明らかになったものです。
この間、人手による評価作業にあたっていた約5万人の外部委託先が、およそ1億3300万件のやり取りをフィルターの無い状態で行っていました。
同社は社内調査の結果として、実際に悪用された形跡は見つからなかったと述べています。
委託先の審査は外部の業者任せで不十分な場合が多かったとも認めており、以降は要件を厳しくしたとしています。
安全の仕組みは、あると決めた時点ではなく、動いているかを確かめ続けて初めて意味を持つという話です。
AnthropicのCEOがAIへの反発は信頼の危機だと述べました
TechCrunchは8月16日、AnthropicのCEOであるDario Amodei氏の反論を伝えました。
投資家のGavin Baker氏が、AIの危険性についての発信が世間の反発を招いたと批判したことへの応答です。
Amodei氏は、自身の文章はリスクと利点をほぼ同じだけ扱ってきたと述べ、否定的な発信に偏っているという見方を否定しました。
そのうえで、根にあるのは信頼の危機であり、人々は企業も政府も技術業界も信用していないと語っています。
最も的確な批判は、世の中を良くするという大きな約束をまだ果たせていない点だとも述べました。
AIへの反発をどう受け止めるかは、社内でAIの利用を広げる立場の人にも同じ形で降りてきます。
https://techcrunch.com/2026/08/16/anthropic-ceo-says-ai-backlash-is-fundamentally-a-crisis-of-trust/
米国の働き手の5人に1人が同僚ではなくAIへ仕事を回しています
Epoch AIは8月16日、調査会社Ipsosと行った就労実態の調査を公開しました。
対象は仕事を持つ米国の成人1,106人で、調査期間は7月10日から19日です。
これまで同僚に頼んでいた仕事をAIへ回している人が、5人に1人にのぼりました。
分野別ではソフトウェア開発が57%と最も高く、データ分析が46%で続きます。
AIの出力のうち66%はほとんど手直しせずに使われている一方で、AIを使った作業の6件に1件は以前より時間がかかっていました。
作業のすべてをAIが引き取った例はソフトウェア開発でも10%にとどまり、他の分野では7%を下回っています。
仕事が丸ごと置き換わるのではなく、人とAIの間で配分が変わっている段階だといえます。
自分のデータでモデルを比べられるOptimaが公開されました
Artificial Analysisは8月16日、Optimaという評価基盤を公開しました。
一般的なベンチマークが自分の用途を映さないという問題に対して、手元のデータで独自の評価を作れるようにするものです。
手持ちの評価データやAIエージェントの実行記録を取り込む方法と、用途と入出力の例を書いて評価の基準ごと生成させる方法が用意されています。
評価は基準に沿った採点か、2つの出力を突き合わせる比較のどちらかで行い、品質に加えて1件あたりの費用と所要時間も測ります。
料金は実際に使ったトークン代のみで、採点は基準1つとモデル1つあたり0.125ドル、比較は1件あたり0.375ドルです。
どのモデルが自社の業務に合うかは、公開されている総合順位ではなく自分の資料で確かめるほうが確かです。
SpaceXがCursorの買収を完了しました
TechCrunchは8月15日、SpaceXがAIコーディング企業Cursorの買収を完了したと伝えました。
金額は株式で600億ドルです。
両社は2026年4月に提携し、その際にSpaceXがCursorを買収できる選択権を設けていました。
SpaceXは株式公開を経た2か月後にこの選択権を行使し、今回の完了に至っています。
Cursorは自社ブログで、世界最大規模のGPU群を使えるようになると述べました。
開発ツールが計算資源を持つ側に取り込まれる動きが、また一つ進んだことになります。
https://techcrunch.com/2026/08/15/spacex-officially-closes-its-cursor-acquisition/
まとめ
今日は、AIを提供する側の安全体制が、外からは見えないところで動いていたことが二社ぶん明らかになった日でした。
利用する側にできるのは、提供元の体制を信じきることではなく、預けてよい資料と使ってよい場面を自分の手元で決めておくことです。
Sanbookは、NotebookLM（現Gemini Notebook）を仕事で使う人のためのコミュニティです。
作ったノートブックを公開したり、ほかの人の使い方を見たりできます。
NotebookLMを初めて使う方は、NotebookLMとは？できること・料金・始め方をまとめて解説から読んでみてください。
参考：The Decoder「OpenAI dissolved the team built to catch catastrophic AI risks, reassigning its work to other groups」
参考：The Decoder「Anthropic's bio-weapons filter was down for nearly a year, exposing 133 million requests」
参考：TechCrunch「Anthropic CEO says AI backlash is 'fundamentally a crisis of trust'」
https://techcrunch.com/2026/08/16/anthropic-ceo-says-ai-backlash-is-fundamentally-a-crisis-of-trust/
参考：The Decoder「One in five US workers now delegates tasks to AI instead of colleagues, survey finds」
参考：The Decoder「Optima tackles AI benchmarking's biggest flaw by letting users test models against their own data」
参考：TechCrunch「SpaceX officially closes its Cursor acquisition」
https://techcrunch.com/2026/08/15/spacex-officially-closes-its-cursor-acquisition/
Sanbook
NotebookLMをもっと活用しませんか？
Sanbookでは、すぐに使えるNotebookLMテンプレートやスライドテンプレートを探したり共有したりできます。
