Open Insight 用語集サイトは、企業の成長と発展に必要な情報を一箇所で提供します。

AIパッケージ幻覚’別名’AIパッケージ・ハルシネーション’と呼ばれる攻撃戦略は、人工知能の’幻覚’という特性を攻撃者が悪用する現象を指します。ここで言う’幻覚’とは、人工知能が虚偽の情報を作り出し、まるでその情報が真実であるかのようにふるまう状態を意味します。攻撃者はこの特性を利用し、ChatGPTなどのAIチャットボットに対し、邪悪なコードパッケージを推奨させることで攻撃を行います。この攻撃手法は、VulcanCyber社の研究チームにより明らかにされ、その後メディアによって報道されました。