AI安全性スタートアップのWhite Circle、業界リーダーから1,100万ドルを調達

(P1) フランスのサイバーセキュリティ・スタートアップであるWhite Circleは、大規模言語モデル（LLM）を導入する企業向けの新しいセキュリティ層であるAI制御プラットフォームを拡張するため、シードラウンドで1,100万ドルを調達しました。この資金調達は、データ漏洩、ハルシネーション、プロンプトインジェクション攻撃など、モデルプロバイダーが構築した一般的な安全フィルターを超えたリスクに企業が苦慮している中で行われました。

(P2) White Circleの創設者兼CEOであるデニス・シロフ氏は、Fortune誌に対し、「ジェイルブレイク（脱獄）は問題の一部に過ぎません。人間が不適切な行動をとる可能性があるのと同様に、モデルも不適切な動作をする可能性があります。私たちは実際に動作を強制しているのです」と語りました。

(P3) 今回の投資ラウンドには、AI業界のリーダーたちが名を連ね、同社のアプローチに対する強い信頼を示しています。支援者には、OpenAIの開発者体験担当責任者のロメイン・ユエ氏、Anthropicのダーク・キングマ氏、Mistralの共同創設者ギヨーム・ランプ氏、Hugging Faceの共同創設者トーマス・ウルフ氏らが含まれます。同社は調達した資金を、新規人材の採用、製品開発の加速、そして米国、英国、欧州全域での顧客基盤の拡大に充てる予定です。

(P4) 企業が単純なチャットボットから、ファイルへのアクセスや返金処理などのアクションを実行できる自律的なAIエージェントへと移行するにつれ、専用の制御層の必要性はより緊急性を増しています。White Circleのプラットフォームは、企業のユーザーとAIモデルの間に位置し、すべての入出力をリアルタイムで監視してカスタムポリシーを適用します。この機能は、モデルプロバイダー自身が完成させるには利害が対立する側面があるものです。

このパリを拠点とするスタートアップは、2024年後半のシロフ氏自身の研究から誕生しました。当時、彼はすべての主要なAIモデルの安全ガードレールを回避できるユニバーサルなジェイルブレイク・プロンプトを開発しました。彼の発見がXで拡散された後、Anthropicなどの主要なAI研究所が彼をモデルのテストに招待し、企業には単により良いモデルだけでなく、より良い制御が必要であると彼に確信させました。

White Circleのソフトウェアは、モデルの幅広い誤動作を捉えるように設計されています。ユーザーによるマルウェア生成の試みをブロックしたり、モデルがハルシネーションを起こして顧客に不正な返金を約束した際にフラグを立てたり、AIエージェントが機密の財務データを漏洩させるのを阻止したりすることができます。このプラットフォームはすでに10億件以上のAPIリクエストを処理しており、スタートアップのLovableや複数のフィンテック企業、法律事務所で使用されていますが、具体的な収益額は公表されていません。

独立した裁定者としての信頼性を高めるため、White Circleの研究部門は、OpenAI、Google、xAIなどのベンダーの15のAIモデルで100万回以上の実験を行った調査「KillBench」を発表しました。この調査により、リスクの高いシナリオで現れる隠れたバイアスが明らかになり、通常の使用では目に見えないリスクが浮き彫りになりました。

今回の投資は、AIセクターの周辺で成長する「つるはしとシャベル（周辺産業）」経済への強力な賭けとなります。OpenAI、Anthropic、Mistralといった競合するAI研究所のエグゼクティブが参加していることは、サードパーティの強制層がエンタープライズAIスタックの必須コンポーネントであるという幅広いコンセンサスを示唆しています。これは、AIインフラと安全性に焦点を当てる投資家にとって、新しく重要な市場カテゴリーの出現を指し示しています。

この記事は情報提供のみを目的としており、投資アドバイスを構成するものではありません。