@wakairo ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。 ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 ちなみに、プロンプトインジェクション(悪意のあるユーザーインプットによる攻撃)の一例はこちら。 https://twitter.com/Ahmet_stak/status/1633085605994459139
ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。
ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策
ちなみに、プロンプトインジェクション(悪意のあるユーザーインプットによる攻撃)の一例はこちら。
https://twitter.com/Ahmet_stak/status/1633085605994459139