LLM Security

LLM（大規模言語モデル）は予測不可能な性質を持っています。幻覚（ハルシネーション）を起こしたり、データを漏洩させたり、有害なコンテンツを生成したり、あるいは正当なリクエストを拒否したりすることもあります。ガードレールは、モデルの能力を損なうことなく、その行動を制限します。