Generatived(Beta)|生成AIの最新ニュースとトレンドを提供
AnthropicがAIシステム向けの責任あるスケーリングポリシーを発表
Generatived
2023年9月20日
Anthropicは、新たなResponsible Scaling Policy (RSP)を発表し、ますます高度化するAIシステムの開発に伴うリスクの管理を目的とした一連の技術的および組織的プロトコルの概要を示した。このRSPは、潜在的な壊滅的なリスクに対処するために設計されたAI安全レベル(ASL)として知られるフレームワークを導入している。このシステムは、危険な生物材料の取り扱いに関する米国政府のバイオセーフティレベル基準に大まかに基づいており、モデルの壊滅的なリスクの可能性に合わせた安全性、セキュリティー、運用基準が必要だ。ASLシステムはいくつかのレベルに分かれている。ASL-1は、2018 LLMやチェス専用に設計されたAIシステムなど、重大な壊滅的なリスクを引き起こさないAIシステムを指す。ASL-2は、生物兵器の作成に関する指示を提供する機能など、危険な機能の初期の兆候を示すシステムに関係するが、信頼性が不十分であるか固有の情報が不足しているため、その情報はまだ役に立ちません。ASL-3は、検索エンジンや教科書などの非AIベースラインと比較して壊滅的な悪用のリスクを大幅に高めるシステム、または低レベルの自律機能を示すシステムに割り当てられる。ASL-4以降のレベルは、現在のシステムからかけ離れているため、まだ定義されていない。しかし、それらは壊滅的な悪用の可能性と自主性の大幅なエスカレーションを伴うことが予想される。ASL-4の対策はまだ確立されていないが、ASL-3に到達する前に開発することが約束されている。これらには、モデルが特定の壊滅的な挙動を起こす可能性が低いことを証明するための解釈可能性手法の使用など、現在未解決の研究問題に対する解決策が必要になる場合がある。
最新のニュース
Restb.ai と Lundy が住宅検索エクスペリエンスを強化
2024年10月17日 4:30:20
不動産業界向け AI 駆動型コンピューター ビジョンのリーダーである Restb.ai は、高度な音声駆動型不動産検索プラットフォームで知られる Lundy, Inc. と提携しました。
Treasury Prime が AI コンプライアンスのために Greenlite と提携
2024年10月17日 4:30:20
Treasury Prime は、AI 駆動型コンプライアンス自動化ツールのプロバイダーである Greenlite を組み込むことで、パートナー マーケットプレイスを拡大しました。
バターフィールド、米国のコンタクトセンターが AI を導入すると発表
2024年10月17日 4:30:20
著名な技術調査およびアドバイザリー会社による最近の調査で、顧客体験の向上を目的にコンタクト センターをアウトソーシングする企業が米国企業の間で増加しているという大きな傾向が明ら かになりました。
ニュース
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
Copyright © 2024 Generatived - All right Reserved.
Generatived は、Generative AIに特化した情報やトレンドをお届けするサービスです。大きく変わりゆく世界の情報を全力でお届けします。
最新のニュース
Restb.ai と Lundy が住宅検索エクスペリエンスを強化
2024年10月17日 4:30:20
不動産業界向け AI 駆動型コンピューター ビジョンのリーダーである Restb.ai は、高度な音声駆動型不動産検索プラットフ ォームで知られる Lundy, Inc. と提携しました。
Treasury Prime が AI コンプライアンスのために Greenlite と提携
2024年10月17日 4:30:20
Treasury Prime は、AI 駆動型コンプライアンス自動化ツールのプロバイダーである Greenlite を組み込むことで、パートナー マーケットプレイスを拡大しました。
バターフィールド、米国のコンタクトセンターが AI を導入すると発表
2024年10月17日 4:30:20
著名な技術調査およびアドバイザリー会社による最近の調査で、顧客体験の向上を目的にコンタクト センターをアウトソーシングする企業が米国企業の間で増加しているという大きな傾向が明らかになりました。