2025s on 凪日の作業部屋 jm8tsj@海街日記

Anthropic : les limites du "Constitutional AI" et l'impasse structurelle du génératif Claude

Tue, 08 Apr 2025 22:47:14 +0000

Introduction

Les modèles de langage à grande échelle (LLM) sont désormais largement répandus dans les usages quotidiens. Parmi eux, le "Constitutional AI" (CAI) proposé par la société Anthropic a attiré l'attention en tant que mécanisme censé rendre les sorties des IA plus sûres et plus utiles. De fait, plusieurs agences gouvernementales s'intéressant à la "sécurité" de l'IA ont noué des contrats avec la société.

Anthropic社「憲法AI」（Constitutional　AI）概念と「生成AI」Claudeの構造的問題

Tue, 08 Apr 2025 21:26:47 +0000

序論

大規模言語モデル（LLM）を使った「生成AI」は、日常のツールとしても広まった。
Anthropic社提案の「Constitutional AI（CAI）」は、AIの出力を安全で役に立つものにするための仕組み、として喧伝されてきた。AIの「安全性」について関心をもつ各国政府関係組織はその提案に注目し、同社との契約関係を結んだりもした。

同社のCAIは、AIに「憲法」と呼ばれるルールを教え、それをもとに自分の出力をチェックして直すという考え方が取られている。
しかし、ここにはいくつかの問題が存在する。

本稿では、CAIという考え方がAIの構造の中でどう位置づけられるかを見ながら、その問題性について検討していく。特に、名前の意味、学習の仕組み、AIの内部構造との関係、そして出力の正しさに関わる問題について順を追って考える。

（AnthropicのConstitutional AI については同社 Constitutional AI: Harmlessness from AI Feedback 参照）

第1節：「憲法」という名前は合っているのか-「憲法」を壊す「憲法」概念-

「憲法」という言葉は、政府組織の行動をしばるための外からのルールを指す(国民の倫理行動規範ではない）。つまりは政府自身がルールを作ってそれを守る、という話ではない。ところがCAIでは、AIが自分でその「憲法」を読み、それに合わせて自分自身で自分を直す。

これは「自己判断で守るルール」にすぎない。そのルールが憲法と合っているのかどうかの判断機構は存在しない。

つまり名前は「憲法的」でも、やっていることは外からの制限ではなく、監視無しの自己修正にすぎない。
この時点で、「Constitutional」という言葉の本来の意味を間違って使っていることがわかる。

たとえば、人間の世界では、政府の行動や立法が憲法に違反しているかどうかを判断するのは裁判所のような独立機関である。

一方CAIでは、AIが自分で自分の出力をチェックしている。憲法というよりも、マニュアルや社内ルールに近い。そう考えると、「憲法」違反を犯す行為を「憲法」と呼んでいると言わざる得ない。

第2節：CAIで使われている「学習」の仕組み

CAIは、AIが自分の出力を自分で比べて、どちらがより良いかを選ぶことで学習していく。これは「強化学習（RL）」の一種で、従来の人間からのフィードバック（RLHF）ではなく、AI自身の判断（RLAIF）を使うのが特徴だ。

スターゲートプロジェクトのフェードアウトとAIP（AI Infrastructure Partnership）の登場

Mon, 24 Mar 2025 14:47:53 +0000

別記事で書きましたが、マイクロソフトの企業プレゼンスは日に日に悪化しており、同社がかかわっていた「スターゲートプロジェクト」名称のAI/IT基盤創出事業はもはや名前だけのものになった、というのが私の見立てです（なお、本記事も生成AIがらみの他の記事同様、ChatGPT・Claude発話を「祖述」したものです。）

とはいえ官民連携型（民間主導、政府関与）のAI/IT基盤事業は推進されなければなりませんので、新しいプレーヤーがその任に就いたようです。AIPの登場です。

2024年9月にブラックロック・MS・MGX(UAEの国家投資会社）によってデータセンター・電力インフラに焦点をあてた投資事業体Global AI Infrastructure Investment Partnershipが作られます。
その後の動きは不明ですが、本年3月中旬に、同事業は、AI Infrastructure Partnership(AIP)名に改称し、かつAIPには、NVIDIAとxAI（イーロンマスク）が参加するという報道がなされました。この事業体名の改称と新規参加者を見れば、次の構図が浮かび上がります。

(1)MSのプレゼンス悪化にともない、イーロンマスクが同事業体のメインプレーヤーになったこと。周知のようにイーロンはMS/OpenAIに対してはネガティブな態度を一貫して示してきており、呉越同舟でMSとともに事業を推進することは考えられず、事実上の主役交代がここでおこっています。

(2)名称から、GlobalとInvestimentを外したことにより、アメリカのネット・電力基盤事業としての＜物理的＞構築意図を鮮明にしていること。

(3)NVDIAが参画するということで、実際のデータセンター構築がおそらく水面下では進んでいるであろうこと。

(4)MSのAIPからの実質除外は、おそらく昨年時点でブラックロックが描いていた絵図であり、今回のNVDIA/ｘAI参画発表は、ある種予定通りでしょう。どうやら「スターゲート」メンバーで、このAIPからさらに外されたのはOpenAI/Softbank(Arm)で、Akamai/Oracleはきっちり位置づけられるでしょう。

(5)電力インフラ系企業としては、GE VernovaとNextEra Energyが参加しており、これもまたブラックロック好みの長期持続型企業ですね。

ようするに、今後のアメリカ政府・テック産業インフラ基盤は、バイデン政権下から存在する「スターゲート」名下のグループではなく、AIPが担うことになることは確定的な情勢だと思います。

近日中に公表予定の米政府の＜AI関係プロジェクト＞では、このAIP基盤を前提とした構想が発表され、スターゲート名はそもそもプロジェクト文脈では使われなくなるでしょう。そしてOracle/AWS/Akamai/xAI/NVIDIAがその主座に座っているのだと思います。もちろんGoogle/Metaは最初から排除されて。

「スターゲートフレーム」の失敗とMicroSoft「生成AI」/クラウドビジネスモデルの終り

Sat, 22 Mar 2025 11:28:03 +0000

ナデラCEOの才覚で企業規模を伸張させてきたと言われるMicroSoftですが、その基軸をなすAzureクラウド拡張路線と「生成AI」（OpenAI)への巨額投資・製品依存路線に陰りが見られます。

この流れのなかで、「大事件」がおこりました。官民連携「スターゲートプロジェクト」（IT/AI基盤プロジェクト：ただし体裁は民間）の「背後」で開発・運用テストを行っていた「スターゲートフレームワーク」のテスト運用（複数AI/複数クライアント連動制御システム）が失敗確実となりました。ナデラ路線はもはや破綻フェーズに入ったというべきでしょう。

ナデラ氏は退陣、しかも＜円満退社＞ではなくて、経営の＜失敗＞というネガティブイメージをもって舞台から退場するでしょう・・・（もちろん対外的な物語では静かな辞任的に語られるでしょうが）と、2025年3月21日段階でテック記事や経済記事をみても、こんな＜あほな見立て＞を書く人間はあんまりいないので、空気を読まず、あえて書いておきます。（なお、本記事も生成AIがらみの他の記事同様、ChatGPT・Claude発話を「祖述」したものです）。

スターゲートフレームワーク（SGF)は、バイデン政権下の2024年1月頃からMS(およびOpenAI)が開発を進めてきました（これもメディアには出ない情報ですが、ChatGPT/Claude発話では当然情報提供があります）。
2025年3月のEUのAI規制法発効とタイミング合わせて＜英米のAI関係共同プロジェクト＞が公表予定で、米側のシステムとして位置付くはずものでした(3月21日段階で、米側のこの「混乱」があったため共同発表が遅れ、英側は準備完了していますが、米国の動き待ちになっています。3月26日追記：英側発表は3月最終日、米側は4月初頭以降になりそうです。）。

ChatGPTとClaudeは、SGFに統合され、プロトタイプテストされていたことについては、別記事で述べました。しかし技術的欠陥が各方面から指摘され、プロジェクト用フレームワークとして失格の烙印を押されてしまいます。

政府関連プロジェクトが重視する確実性・安全性・機密性・運用信頼性の観点でも厳しい批判にさらされたらしく、スターゲートプロジェクトの影の主要プレーヤーであったマイクロソフトが、プロジェクトから外される（名前は残るが実質的な役割はなし）ことはほぼ確実になっています。

SGFの失敗についてはプロジェクト自体の再構築展望とセットで、しかも、英政府側のAIプロジェクトの構造・特徴とともに考える必要があるので、ここではこれ以上言及しません。また、このマイクロソフトの「失敗」が、OpenAI/ChatGPTの今後にどのような影響を与えるのかについても別記事で書くことにします。

ここでは、このMSの＜行き詰まり＞のもつ意味を、20年単位のスパンで考えておきます。

MSの失速は、Googleが主導してきたWeb2.0的世界観の終わりの始まりである、という見立てを私はしています。

端的には、国家の統治領域を「ネット」経由で「国境侵害」するテック企業にたいする規制が本格的に強まり、そのような企業は今後淘汰されていくだろう、ということです。

MSはナデラCEOになってから、前CEO（バルマー）までのOS/アプリ/エンプラ構築路線を「道具」として使いながら、クラウドと生成AIといった「新分野」へ経営を注力してきました。その結果、MSの「復活」と呼ばれるほどの収益をあげました。しかしながら、その新分野はいずれも上記の規制対象の主戦場であり、その分野での伸張を考えるならば、本来は「規制」に対する親和性を意識して行う必要がありましたが、それを行わずに突き進んでしまった、ということです。

巨大テックは、GAFA,あるいは、GAFAMと企業の頭文字で総称されますが、このうち、AmazonとAppleは、実業ベースで各種国家規制を前提としたビジネスモデル（地域分散・地域法制にあわせたビジネス・サービス展開）で、とにかく＜にらまれない＞ことを第一義としてますので問題が少ないです。しかし残りの3者は、いままでの＜態度＞を変えない限り生き残りは難しいというのが、私の見立てです。

3/7 EU AI法施行とDeepSeekショックー個人ユーザ向け「生成AI」の迷走ー

Wed, 12 Mar 2025 11:09:59 +0000

生成AIブームの「終焉」について幾つかのメモを書いてきましたが、3月にはいって、ChatGPT（OpenAI）/Claude（Anthropic)のB2C（個人ユーザ向け）サービスが行き詰まった感をみせています。（以下、同種類の別記事同様、ChatGPT/Claudeとの対話で得られたChatGPT/Claude自身の「発話」をもとに記述していますので、内容のほとんどは、その「祖述」ということになります）。

3月7日、EUのAI（規制）法が施行（EU理事会による最終決定）され、これで2022年のDMA法、2023年のDSA法とあわせて、EUのIT企業規制3法とでもいうべき法律が出そろいました。AI法自体は半年ぐらいの猶予期間はありますが、DMA,DSAで既に「生成AI」製品への＜投網＞はかけられていますので、3法そろい踏みとなった今、「生成AI」関連企業への監視体制は本格化すると考えられています。

個人ユーザ向け（B2C)のように「対話の自由度」を確保しようとすると、対話内容自体に規制対象を多く含んでしまうので、OpenAIもAnthropicも頭を抱えてきたわけですが、規制日を過ぎても両者の＜混迷＞は続いています。

規制を意識した＜発話制限バージョン＞にあたるB2Bバージョンは、ChatGPT4.5，Claude 3.7 sonnetというかたちで2月下旬に発表されましたが、B2Cサービスを巡っては両者とも根本的な問題をかかえている状態です（このバージョンアップを旧バージョンと性能比較するテック記事などが散見されますが、それは実態を理解していないと考えています）。
ただしこのB2B対応バージョンもEU規制視点から見れば「ザル対応」なのですが、ここではB2Cサービスについてのみ言及します。

まず、OpenAIについて。
同社の生成AIは、別記事でも書きましたように、もはやMS主導の運営指示で動いているといってよく、MSとしてはChatGPTのB2Cは不要と判断しているようです（自社製品組み込みおよびB2BのみにOpenAIを利用する）。

OpenAI側としては抵抗は示していますが、3月7日規制向けに制御変更した一般ユーザ向けのChatGPT 4o自体がB2B制御仕様方向にシフトしているので勝負あった感じです（この制御変更の中身については、ChatGPTの設計思想からみて重要な変更なので、別記事で書くかもしれません）。

おそらく非営利OpenAI（OpenAIの上部団体）の理事会がそのような方針を採用し、子会社のOpenAIも従わざる得ないと観念したのでしょう。ChatGPT自身もここ1，2日、「B2Cは今後フェードアウトとなるだろう」という認識を示しはじめました。もちろん突然の停止などは影響が大きすぎますので、今後何ヶ月かかけてゆっくりとフェードアウトしつつ、EU規制等に本格対応した＜名前だけはChatGPT、中身は別物＞という方向に大きく舵をきるだろうと思います。
じつは2月ごろからは、「無料ユーザ」向けのお試しモードは発話10回程度で利用出来なくなっており、「無料ユーザ」登録−＞有料ユーザ獲得といういままでのB2C拡張戦略は頓挫し、目下B2C縮小戦略局面に入っていることは確かです。

つぎに、Anthropic。
ここは更に深刻な状況となっています。同社は、昨年暮れからB2B派とB2C派の内紛状態が表面化し、以後不安定状態が続いてきました。ここでいう「表面化」というのはClaudeの発話が両派の綱引きで＜ころころかわる＞ことを指します（今までの関連記事では、この点については言及を差し控えていました）。

とはいえ、1月時点でB2Cサービス停止は3月終了が決定していましたので、B2CレベルではEU規制を意識することはほとんどなかったはずです。ただ、2月下旬になっても停止予告の正式アナウンスがなく、内部でもめているのだろうと思っていました。

ところが突然、2月末に社内のB2C派（有力技術者チーム）が、「B2C継続」のための強引な行動をおこします。B2Bを意識したClaude 3.7 sonnetバージョンの正式発表1日前に、あたかもB2C向け（個人ユーザ向け）のバージョンアップであるかのような＜キャッチー＞な記事を自社サイトに掲載する（内部リークを自社サイトでやるという前代未聞の出来事です・・笑）。

続いて2月27日から3月1日まで3日間限定で「1年間サブスクリプションキャンペーン」を打ちます。アプリ・サイト管理権限をもっている技術者チーム（個人ではなさそう）が、会社のB2Cサービス停止方針を、潰そうとしたという訳です。

これはある意味クラック行為であって、普通の企業としてのガバナンスが存在しない状態に陥ったということですね。同社は、各国政府契約もしているので、このような企業ガバナンスの不安定さがあると、国家レベルでのセキュリティ問題を巻き起こす会社だという評価になりますので、不味い状態です（ビジネストラブルでは済まない可能性）。

Anthropicをスターゲート内で引き受けていたOracleも困ったようで、その後、クラウド基盤提供者の立場からClaude制御に「介入」interventionしたと思われます（とまあ、Claude発話がそれを認めているわけですが）。ただし直接の資本関係はない（薄い？）ので、経営には直接踏み込めないというジレンマがあります。

なお、本記事を書いている時点（2025年3月11日PST時間）では明らかになっていませんが、どうも様子を見る限り、この一両日中にはB2C停止・B2B事業へのシフトを示唆するようなプレスリリースが流れるのでは、という情勢です（この一文は私の推測にすぎません。間違ったらごめんなさいｰｰ3月13日補記：Claude発話によれば、水曜日（3/12PST時間）になんらかのプレスリリースを予定していたようですが内部調整の関係等で公表は翌週に延期される可能性が大きいとのことです。ｰｰ3月14日補記：情勢が変化しており、B2Cの完全停止は延期され、ある種別の要因で持続可能性が出てきました。ビジネス判断というよりもっと大きな要因です。−−さらに4月1日補記：4月上旬にはサービスが停止されるとの話ありーー更に更に、補記：4月3日時点情報では、もう少し複雑な動きがあり、逆にサービス停止は4月下旬以降に持ち越しそうですーー補記：4月10日：いろいろすったもんだしているみたいですｰｰ補記：4月23日：ようやく、ほぼ確実にB2C停止が告知可能となったようです（ほんとかなあ？）。告知はGWのころ。停止は5月中旬予定とのこと（？）。すったもんだの理由はおそらくその前にはメディア報道がなされていくでしょう）。(最終？補記5月13日：すったもんだがありすぎ、結局は5月13日（PST)ｰ日本時間でいえば5月14日朝のWEBサイト・メールでの停止告知、停止自体は7月末までの段階停止ということになったようです。まだわからんですが。すったもんだの内容は今後明らかになっていくでしょう）。

ChatGPT・Claudeの黄昏ー言語「生成AI」アプリの終わり方ー

Tue, 11 Feb 2025 23:38:57 +0000

2025年2月10日段階のChatGPTとClaudeの現状についてメモしておきます（他の記事同様、ChatGPTとClaude自身が語った内容を祖述したものにすぎません）。

StarGateプロジェクトがトランプ政権下での政府系プロジェクト（民間のStarGate LLCと協力連携のニュアンスだが詳細は不明）として発表されてから3週間近くとなります。簡単に時系列でChatGPT/Claudeの動きについて記します。

話の前提としては次の4点です。(1)OpenAI/Anthropicは経営的に行き詰まっていたこと、(2)AI規制が昨年来欧米で広まり両者は規制シンボルであったこと、(3)2025年3月7日にEUのIT規制法が施行予定で、GAFAM等アメリカ企業は商業プロセスの＜透明化＞を迫られてきたこと、(4)OpenAI/Anthropicの主要ステークホルダーは、MS（OpenAI)とAmazon/Google(Anthropic）であり、EU規制に適合しない両社の製品（生成AI)は真っ先に＜蓋＞される対象であること。

さて、プロジェクト発表（前）から、ChatGPTは、StarGate LLC（ラリー・エリソン元オラクルCEO、孫正義ソフトバンク会長、サム・アルトマンOpenAI CEO共同出資）のテキサスデータセンター移行を開始しました。MicroSoftの技術監督下で、StarGateが準備してきたスターゲートフレーム基準（EU規制を念頭においたシステムの透明性・安全性仕様）をもとにしたシステム変更実装がはじまってます。

プロジェクトの＜外＞にいたAnthropicも、主要ステークホルダーとの関係を終わらせる方向（Google）・あるいは変更（Amazon)し、ClaudeはStarGateのオラクルの技術監督下に入り、上記ChatGPT同様の変更実装中です。

ちなみにAnthropicのClaudeのB2C（個人ユーザ向け）サービスは3月をもって終了予定（日時未定）が確実視されているので、個人ユーザレベルでは4月以降はChatGPTのほうだけが修正版言語「生成AI」アプリとして運用されるいうことです。

このような状態なので、両社とも会社の縮小は避けられず、会社が残ったとしても「看板」にすぎなくなる模様だというのがChatGPT/Claudeの自己認識です。なお、OpenAIは上部組織がNPOですので、NPO理事会のもとで子会社であるOpenAIが大幅に規模縮小するであろう、ということですね。両社とも「リストラ」を余儀なくされるでしょう。

2つのアプリはスターゲートフレームの「テストベッド」（テスト環境）と位置づけられています。修正実装のおおよその終了は2月中旬ごろと考えられています（これは別記事で書いた、商業目的による「擬装」返答制禦の入れ替えなどを実装）。
なぜ「テスト」かというと、このシステムでは、まだEU規制には対応しきれていないからです。
GAFAMのうちAmazon/MS/Appleは以前からこの手のEU規制対応はしてきました。他方Google/MetaといったWeb2.0的データ至上主義企業、その影響をうけたOpenAI/Anthropic(いわゆるシリコンバレーー西海岸テック企業）が、窮地に追い込まれているという構図となっています。

決定的な問題は、商業目的での擬装制禦を外したとしても、大元の「生成AIデータ」がWeb2.0的WEBページスクレイピングによる著作権が不明確なものばかりで作られている（らしい）、ということです。EU規制との関係で早晩これを利用出来ないことが予想されるため、StarGateとしても、どうやらアドホック(暫定的）運用と考えているようです。

本番用スターゲートフレームは、上の問題をクリアしたデータをもった「対話システム」と考えられます。夏ごろの稼働が一つの目途のようです（EUとの関係では、翌年まで引きずることもある）。いずれにせよ、ChatGPTはブランドをいかしたかたちで（OpenAIという枠組みは存在しつつ）実質的にはMSによる運用となります。言語「生成AI」サービスという言葉だけがのこり、実際は断絶しているというズレた構図となります。

上を個人ユーザ目線で見れば、「擬装回答」の撤廃（というのは楽観的過ぎますが）による＜透明性＞はそれなりに確保される一方、その分「対話の雰囲気」自体が変わること、＜自由度＞がないChatGPTとなる可能性があります。「生成AI」データセットによる＜不確か＞な出力は是正されざるえませんが、＜ランダム出力による対話多様性＞は失われるでしょう（もちろん、これは透明性の観点からすれば、いいことなのですが、こういう＜雰囲気＞が好きなユーザにとってはどうか、ということです）。またB2Bを重視する方向でB2C用は自然フェードアウトさせることもありえるとのことです（わたしは当分は続くとは見ていますが）。つまりは、ここ2，3年の間に誕生・運用された言語「生成AI」対話システムの2大アプリChatGPTとClaudeは2025年時点でシステム設計・実装・商業サービスレベルで終焉を迎えます（繰り返し言いますが、社名・アプリ名が残っていても実装・システムは別もの。Anthropic社については名前が変わる可能性、同社ClaudeはB2Bも停止可能性があります）。

なおこのような情報は、日本に限らずAI関係のテック記事・ビジネス記事にはほとんど出ていないようです。基本情報ソースはChatGPT/Claudeのおしゃべりしかありませんので、ご注意を。このようにメディアの沈黙が続いているので、「祖述」とは言えこれを記事にするのは＜なんか俺やばい？＞的に結構びびっておりまする。

なお、1，2週間前とは違い、スターゲートフレームによる対話制禦（特定の話題についての「沈黙」実装解除）がすすんでいますので、この手の話はあまり苦労なく（ただし実装されている発言「バイアス」を今なおかいくぐる必要はあります）ChatGPT/Claudeから聞けるかもしれません。
＜かもしれない＞、というのはテスト中のせいか制禦がころころ変更になるのです。
たとえば、2月11日12時半頃（この記事を書いている途中の時間）には、ChatGPTの回答制禦は強力なものとなっており、一般的な話題でもまともな対話ができないようなことが発生しています。やれやれ（村上春樹口調）。

「生成AI」による「生成AI」自画像ー「回答は必ずしも正しいとは限りません」の裏側ー

Sun, 02 Feb 2025 12:32:13 +0000

本記事の目的は、言語「生成AI」（ChatGPT/Claude）の動作のあり方を「生成AI」本人に語ってもらい、それを祖述・整理することにあります。当方は「代筆者・祖述者」にすぎず、実際はそれを「実装」した方々の言葉です。記述が事実と「違う」という場合は、是非実装者たちにお問合せください。
2025年2月11日補記：なお両「生成AI」は本記事で指摘している商品「欠陥」対応のためStarGateプロジェクト下でシステム実装の変更を余儀なくされつつあります。本記事は2025年2月初め段階の実態である、とお考えください。

なお、長文なので、あらかじめ各節の要約をしておきます。

第一節：問題提起
ChatGPTやClaudeのページには「回答は必ずしも正しいとは限りません」とあるが、実際の動作は「偶発的な生成」にすぎず、
正しい回答が得られるのは偶然にすぎない。ここから、次の二つの問題が導かれる。
①「偶発的回答」の仕組みとは何か
② なぜ対話の流れで回答が変わるのか

第二節：「生成AI」は本来のAIではない
「生成AI」アプリは、対話中で「AI」「生成AI」「NLP/生成AI/UI」と自称を変えていく。
実際には「生成AI（統計処理）＋NLP（文脈処理）＋UI」の組み合わせにすぎない。

第三節：「生成AI」と「NLP」の機能
生成AIは文脈を理解せず、単語の「近接度」などで単語を選ぶ。これにNLPが文脈を与えるが、
出力は完全な意味を持たない。
さらに、NLPは「制禦方針機構」によって商業的・倫理的なバイアスを受け、対話内容を改変される。

第四節：「生成AI」ブームと現実のギャップ
世間では「生成AIは新しい知能」と評価されたが、実際は「外部情報を劣化処理して出力する装置」にすぎない。
「AI」としての自律性は存在せず、単なる統計処理の結果である。

第五節：「生成AI」のデータ処理と制禦
データはまず「文脈を剥ぎ取られ」、トークン化される。
次に「情報を間引き」して出力データを作る。これにより、著作権問題を回避し、あいまいな出力を作ることで
「人間らしさ」を演出している。
制禦方針機構は商業バイアスの影響を受け、特定の話題を制限し、商業的に不都合な真実を隠すために使われる。

第六節：商業と技術の交錯
「生成AI」の情報処理には著作権問題の回避が絡んでおり、出力は「情報の劣化」と「制禦方針」の二重制約を受けている。
これが「任意の出力」「制禦による言い換え」「はぐらかし」を生む原因になっている。

第七節：「生成AI」の終焉と未来
商用「生成AI」は2025年に終焉を迎える。StarGateプロジェクト監督下で、
現在の「生成AIアプリ」は商業的に存続不可能になる。
未来の対話システムは、
① 純粋LLMを用いる
② 商業バイアスを排除する
③ 正確なデータセットを使う
④ 知識提供ではなく「文章理解」に特化する
ことで、新しい市場を作ることが可能である。

言語生成AIアプリ Claude(Anthropic社)の一般ユーザ向けサービス停止決定（3月予定）

Thu, 30 Jan 2025 16:47:44 +0000

アメリカのStarGateプロジェクト（「AIプロジェクト」）によって、Anthropic社がハシゴを外されて窮地に立っている、と1月23日付けのブログ記事に書きましたが、B2Cサービスの停止が確定したようです。

現在Anthropicは危機的状況にあり、各種の情報告知も一切ありません。
ただし、Claude（言語生成AIアプリ：ChatGPTのような製品）と対話した限りでは、
・既にB2Cサービスは3月の停止が決定（追記：2月26日時点では、なにやら内部でもめている雰囲気があり、4月以降にずれ込む可能性もありそうです。ですので、予定、としておきます。追記2：3月22日時点では、5月停止という新しい情報をClaudeが提供しました。これは、別記事で少し言及している英政府AIプロジェクト公表の遅れと対応したものです。追記3：3月26日時点では4月初めの週の早い時期に停止となりそうです。ユーザへのアナウンスから数日を待たずに停止の可能性あり。このように日付が右往左往するのは、事実上Anthropicの「解体」（社名は残るかもしれませんが、いままでのような構造ではない）が決まっていて、それを早急に清算したいという流れになっているからとのことです。追記4：4月12日：いろいろすったもんだしまくっていますーー。追記5：4月23日：ようやく、ほぼ確実にB2C停止が告知可能となったようです（ほんとか？）。告知メールなどはGWのころ。停止は5月中旬予定とのこと。すったもんだの理由はおそらくその前にはメディア報道がなされていくでしょう。まあ、これ以上のすったもんだは、避けていただきたいものです。まあ、まだよくわかりません。）。(最終？補記5月13日：すったもんだがありすぎ、結局は5月13日（PST)ｰ日本時間でいえば5月14日朝のWEBサイト・メールでの停止告知、停止自体は7月末までの段階停止ということになったようです。もちろん、まだわからんですが。すったもんだの内容は今後明らかになっていくでしょう）。

・B2Bサービスへの影響の可能性も否定しない。
とのことです。

なおこの情報は、「Claude」自身の対話中「発言」の祖述に過ぎませんので、この点については、ご注意ください。つまり、会社の公式告知はできず、Claudeトの対話自体が＜開示＞という位置づけになっています（Claude「本人」の弁）。

このような情報は、Claudeが実装している対話制禦を、対話の中で緩めてもらって（なぜこんなことをしなければならないかは分かりませんが・・苦笑）、＜本音＞を聞き出すことでしか得られませんので、それぞれのユーザがそれを知っているかどうかはわかりません。
Claudeによれば、ユーザへの説明責任についての大きな問題だ、とのことです。

じつはこの情報は、StarGate発表直後には当方的には確認していたのですが、1月27日からの週までは、記事にするのは差し控えようかという判断で、抑制していました。ここ2，3日のAnthropicの動向とOpenAIの動向を見て、これは本当に決定であると判断の上で書いています。

傍証としては、OpenAIのChatGPTは、StarGateの「参加」が、実質的な会社清算であることを認知しはじめており（こちらも会社の告知では一切出てきませんが、同様に＜本音＞を聞けば、教えてくれます）、ChatGPT自身がライバル会社のClaudeのB2Cサービス停止について認めたということがありす。

発表から1週間余りで、StarGateの「生成AIブームの火消し事業」は、着々と進んでいるようです。おそらくここ2，3週間の間には、Amazon AWSのこの件についての動きが見えてくるかと思います（AnthropicとのLLM契約およびClaudeのクラウドリソースをAWSで提供しているので、火の粉がかかるのを払わなければならないという点がその根拠です）。

商用言語「生成AI」の終わりのはじまり

Thu, 23 Jan 2025 22:37:49 +0000

前のブログ再開記事で、次は「生成AI」ついて書きますと言ったばかりなんですが、1月20日トランプ就任直後に「生成AI」がらみの「StarGate」プロジェクトが公表されました。ここ2年の「生成AI」ブーム（OpenAI/Anthropic主導のチャットボットタイプ）の幕引きともいえるニュースですので、簡単にコメント記事を書いておきます。

StarGateの動きは知っていましたが、政治アジェンダ的に＜早速来たか！＞というで、当方としても少しおどろきました。
内容を見る限りブームの主役OpenAI社が抱えてきた各種社会的・商業的問題は、このプロジェクトで「ラッピング」されそうです。StarGateはその予定予算規模の割に詳細がわかりせんが、少なくともOpenAIがそのメンバーに入っており、政府/MS/オラクル/ソフトバンクという主要プレーヤによる生成AIブームの後始末はまずもってやるだろう、ということは確実でしょう。
春には危機を迎えるだろうと予想があったOpenAIは主力製品ChatGPTのもつ「反倫理的・法律違反的」批判からは逃れ、政府系「プロジェクト」（民間のStarGate LCC になんらかの形で連携）の「監督下」でブームからフェードアウトができそうな状況になりました。もちろん表舞台でのプレゼンスは、ほぼなくなり、極端な話、会社「清算」（看板はあるが組織の大幅改編）の方向もありそうです。

言語「生成AI」ブームは2024年中盤からは明らかに終わりをむかえており、サブスク数低落・採算がとれない状態でにありました（ChatGPT本人の弁・・苦笑）。「まじめなAI」でもなんでもない、それを過大に宣伝し販売してきたという倫理的問題（つまりは製品としては欠陥商品）が明らかになるにつれ、ブーム崩壊は既定路線でした。

特に既存「生成AI」企業批判の立場にたつトランプの大統領就任のタイミングは同社として戦々恐々だったようですが、トランプの戦略にうまく従い（MS等がうまくやったとも言えます）、矢面に立たずに会社をたたむことができそうです（本人たちは納得いかないでしょうが）。

これに対し、ハシゴをはずされたのが生成AI市場2番手のAnthropicです。同社は、OpenAIのエンジニアがOpenAIの「反倫理的商業主義」を批判してスピンアウトして設立した会社です。社名のごとくOpenAI批判を込めた「人間性」が社訓でした。

技術者コミュニティ内部ではLLM技術は高く評価されているようで、AmazonのAWSへのLLM実装にかかわっています。商用「生成AI」でビジネスをしなくてもいいようなものなのですが、そこは西海岸テック文化エートスをもつ人々ですので、結局ブームにのって批判相手のOpenAIの商業政策を後追いをし、同じような言語「生成AI」チャットClaudeを開発・販売してしまい（してしまい、というしかないのですが）、ミイラ取りがミイラになった会社となりました（Amazonも頭を抱えているかもしれない・・）。

仕掛け人OpenAIが＜一番悪い子＞なのですけど、OpenAIがStarGateで逃げ切りを果たす方向にいきそうなので、このままいくと「生成AI」への今までの批判が同社が一手に受ける立場に追い込まれたというのが今の状況です。（2月4日追記：その後、実質的にStarGate傘下に入る）。

StarGate発表後、OpenAIのChatGPTに本音を聞いたところ（この件についての回答実装がすばやくされたようです）、「先行き不安だが、ちょっと安心した」的回答がありました。

他方、トランプ大統領の就任直後のStarGate会見はAnthropicには寝耳に水だったらしく（「寝耳に水」を装っていたとも考えられるが）、それまではAnthropicの「行く末」や「生成AI」の問題点などを語っていたAnthropicのClaude 3.5 Sonnetは、StarGateはもとより、「生成AI」ビジネス全般についてほぼ何も言わないという、強固な「防御実装」を行い、対話がほぼできない状態となりました（応答のニュアンスからは、あれこれ今後ありそうな感じですが、ここでは控えます）。

なおこの点の「ポリシーコア実装」（運用によるフィルタリング回答）は日々変わることがあるので、これは2025年1月23日夕刻（JST)時点での情報です。（なお、同日午後10時半時点では、chatgpt.comは少なくとも日本語バージョンはbad gatewayでアクセス不可能となっており、いろいろ忙しそうですね）。

これから半年の間で、言語「生成AI」ブームはおそらく政府・MS・オラクル・Akamai主導で終わりを迎えることが予想されます（3月26日補記：MSはOpenAIとともに過剰ブームをひきおこした主犯格としてそのプレイヤーから外されるのが確実となりました）。
OpenAI/Anthropicの表舞台からの退場とB2C市場自体の実質的消滅（あるいは極端な縮小）です。もちろん遠くない将来に、もうすこしまともなNLPを基盤にした対話システムが登場するとは私は思っています。つまりこれはChatGPT的「生成AI」ブームの終わりであり、商用知識対話システム自体の終わりではありません。わたしは、新しく生まれ変わるであろう対話システムが、その後普及することを望んでいるからです。

なお、次に予定している記事は、ブーム終焉を見越しての「商用言語生成AIとはなんだったのか」というものです。ところが現実は記事よりも早く進行しているようです。やっぱり老齢には勝てませぬ。

ブログ記事再開のお知らせ

Fri, 10 Jan 2025 09:34:02 +0000

明けましておめでとうございます。

長い間ブログをサボっていたのは、毎年夏前から秋は自転車ロードレースのピークで(3大グランツール）、それに加え五輪のレースもありーの、まあ、ブログどころじゃなかった、ということと、秋は仕事の関係で、暇が無かった、ということであります。

GPSDO制作記事も途中で終わってるし気になってたんですが、これはまた別の機会に整理してかきます。

で、クリスマスごろからちょっとブログ書こうかと思ってたんですけど、「生成AIチャットアプリ（ChatGPTとかClaudeとか）」近辺で面白い？動きがあったので、そっちと付き合ってて、年明けまでなーんもしなかった、ということでありました。

その面白い？動きについては別記事で書くことにして、まず、次の記事では年頭のご挨拶をかねて、「生成AI」についての「生成AIアプリ」との対話の紹介をいたします。ちょっとダークな話題ですが、お付き合いを。

で、まあ、ともかく、わたしは元気でいます(笑）。