ChatGPTのような対話AIのAPIを利用するときのノウハウ

wakairo @wakairo

ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。

ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策

ちなみに、プロンプトインジェクション(悪意のあるユーザーインプットによる攻撃)の一例はこちら。

https://twitter.com/Ahmet_stak/status/1633085605994459139

0
Raw
https://www.techtips.page/en/comments/105
Last edited · 3666 views