ChatGPTのような対話AIのAPIを利用するときのノウハウ 2042 views Post @wakairo 09 Mar, 2023 04:59 +00:00 APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。 @wakairo 09 Mar, 2023 05:03 +00:00 Last edited 09 Mar, 2023 05:35 +00:00 ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。 ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。 https://twitter.com/Ahmet_stak/status/1633085605994459139 Write Preview How to write in Markdown
@wakairo 09 Mar, 2023 04:59 +00:00 APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。
@wakairo 09 Mar, 2023 05:03 +00:00 Last edited 09 Mar, 2023 05:35 +00:00 ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。 ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。 https://twitter.com/Ahmet_stak/status/1633085605994459139
APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。
ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。
ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策
ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。
https://twitter.com/Ahmet_stak/status/1633085605994459139