プロンプト生成上のリスクと注意点とはぷろんぷとせいせいじょうのりすくとちゅういてん

まず情報漏洩のリスクです。サービスによっては、利用者が入力した内容がモデルの改善などに利用されることがあり、入力した情報が別の利用者への出力に再現されるおそれがあります。社外秘の文章を校正させる前に、それが機密情報にあたらないか確認する必要があります。

次に個人情報です。公式テキストでは、OpenAIのGPTモデルは個人を特定できるデータを学習しない設計とされている一方、利用者がそれを確かめるのは難しいとしています。そのため、実名や連絡先は架空の情報に置き換えるのが安全です。

（悪い例）A社の山田太郎様（090-xxxx-xxxx）への謝罪文を書いて （良い例）〇〇株式会社の佐藤様への謝罪文を書いて

さらに、AIの出力には事実と異なる内容（ハルシネーション）や不適切な表現が混ざることがあります。訓練データの偏りから、特定の視点を強調した偏った文章になることもあります。出力はそのまま使わず、人の目で必ず見直しましょう。