［Visual Bank株式会社］～GENIAC採択企業のVisual Bank、画像・動画・テキストの複合リスクに対応し、基盤モデル開発におけるSafety Alignmentを支援～Visual Bank株式会社（東京都港区、代表取締役CEO 永井真之）は、傘下の株式会社アマナイメージズを通じて展開するAI学習用データソリューション「Qlean Dataset（キュリンデータセット）」において ...

米OpenAIは12月20日（現地時間）、高度な推論能力を持つ新しいLLM「o3」と同時に、oシリーズに適用した「Deliberative alignment」（熟慮的アラインメント）と呼ばれるアラインメント戦略を発表した。 この手法は、AIモデルがより安全で信頼性の高い応答を生成 ...

If you’ve ever turned to ChatGPT to self-diagnose a health issue, you’re not alone—but make sure to double-check everything it tells you. A recent study found that advanced LLMs, including the ...

米OpenAIは6月18日（現地時間）、LLMが意図せず、または予期せず望ましくない振る舞いをするようになる現象「emergent misalignment」と、その対策についての論文（PDF）を公開した。（alignmentは、AIが人間の指示通りに正しく動くように、AIの行動を調整する技術。

Posts from this topic will be added to your daily email digest and your homepage feed. Researchers found that o1 had a unique capacity to ‘scheme’ or ‘fake alignment.’ Researchers found that o1 had a ...