ChatGPTのような対話AIのAPIを利用するときのノウハウ 1776 views Post @wakairo 2023/03/09 13:59 APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。 @wakairo 2023/03/09 14:03 最終更新 2023/03/09 14:35 ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。 ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。 https://twitter.com/Ahmet_stak/status/1633085605994459139
@wakairo 2023/03/09 13:59 APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。
@wakairo 2023/03/09 14:03 最終更新 2023/03/09 14:35 ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。 ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策 ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。 https://twitter.com/Ahmet_stak/status/1633085605994459139
APIを通してユーザーインプットを渡している場合、悪意のあるユーザーインプットによる攻撃が可能な場合がある。そういった攻撃をどう防ぐかといったノウハウについてのTopicです。
ユーザーインプットをそのままAPIに渡すのではなく、ユーザーインプットの前後に文を追加することで、悪意のあるユーザーインプットによる攻撃を緩和しようというアイデア。
ChatGPTを使ったサービスにおいて気軽にできるプロンプトインジェクション対策
ちなみに、プロンプトインジェクション（悪意のあるユーザーインプットによる攻撃）の一例はこちら。
https://twitter.com/Ahmet_stak/status/1633085605994459139