微調整では、コンテンツ生成アプリケーション固有のラベル付きデータ（アプリケーションが受け取る可能性のある質問やプロンプトや、適切な形式で入力に対応した正しい回答）のモデルへの入力などを行います。 例えば、カスタマー・サービス用チャットボットの作成では、開発チームはまずラベル付きでカスタマー・サービス用の質問と正解などを記載したドキュメントを何百何千と作成し、作成したドキュメントをモデルに入力します。

微調整には多大な労力がかかります。 開発者は多くの場合、データのラベル付けに従事する多数の従業員を抱える企業にタスクをアウトソースします。

RLHFでは、 生成されたコンテンツに対して人間のユーザーが評価を返します。モデルはその評価を使用してモデルを更新し、回答の精度や関連性を高めます。多くの場合、同じプロンプトに対するさまざまな出力を人間のユーザーが「採点」します。 一方、人間のユーザーが入力または音声入力で、チャットボットやバーチャル・アシスタントの出力を修正するのみの単純なプロセスの場合もあります。

生成AIツールでブレインストーミングを自動化して複数のコンテンツ・バージョンを新たに生成することで、創造性を刺激できます。作家、アーティスト、デザイナーなどさまざまなクリエイターは、創造活動における停滞を抜けだすためにこうしたバリエーションを創造のきっかけや参考資料として活用できます。

生成AIは大規模なデータ・セットの分析、パターンの特定、価値あるインサイトの抽出に威力を発揮します。さらに、抽出したインサイトを元に仮説や推奨事項を生成して、組織の経営陣、アナリスト、研究者などの専門家がデータ駆動型の賢明な意思決定を行えるよう支援します。

レコメンデーション・システムやコンテンツ作成などの機能を持つアプリケーションでは、生成AIがユーザーの好みや履歴を分析してパーソナライズされたコンテンツをリアルタイムで生成することで、ユーザーのニーズに合った魅力的なユーザー・エクスペリエンスを実現します。

疲労することなく継続的に稼働できる生成AIは、カスタマー・サポート用チャットボットや、自動応答などのタスクに24時間体制で対応できます。

AIハルシネーションとは、ばかげているまたは正確さを欠いているにもかかわらず、非常に多くの場合もっともらしく見える生成AIの出力のことです。よく知られている例として、ある弁護士が注目度の高い訴訟に向けて、生成AIツールを使用して調査を行った際の話が挙げられます。そのツールは複数の事例を引用や出典付きで「生成」しましたが、この事例は完全に架空のものでした（ibm.comの外部サイトにリンク）。

専門家のなかには、ハルシネーションを、モデルの精度とクリエイティブな機能のバランスを取った結果生じた避けられない結果であると考える人もいます。 ただし、ガードレールと呼ばれる予防策を実装することで、モデルのデータソースを関連性や信頼性の高いもののみに限ることも可能です。 また、継続的な評価とチューニングも、ハルシネーションを防ぎ、精度を高めるために効果的です。

生成AIモデルは変分的また確率的性質を持っているため、入力が同じでも出力はわずかにまたは大幅に異なることがあります。 カスタマー・サービス用チャットボットなど、出力の一貫性が求められるような特定のユースケースでは、これはおそらく望ましくありません。プロンプトを繰り返し改良したり組み合わせたりするプロンプト・エンジニアリングによって、生成AIから望ましい結果を一貫して得られるプロンプトに到達できます。

生成モデルは、学習データ、モデルの調整に使用されるラベル付きデータや外部のデータ・ソース、モデルの調整に関わる人間の評価者から社会的バイアスを学習するため、生成されたコンテンツに偏りがあったり、不公平または不快であったりすることがあります。 モデルの出力を公平なものにするには、多様なトレーニング用データを使用し、ガイドラインを確立してトレーニングやチューニング中にバイアスが生じないようにするとともに、モデルの出力の精度と偏りを継続的に評価する必要があります。

生成AIモデルの多くは、意思決定プロセスを理解するのが難しいまたは不可能な恐れのある「ブラックボックス」モデルです。基礎となるアルゴリズムを設計するエンジニアやデータサイエンティストでさえ、内部で起こっていることや、特定の結果が出力される理由やプロセスを正確に理解または説明できます。説明可能なAIの実践やそのテクニックは、生成モデルのプロセスや出力に関する実務担当者やユーザーの理解と信頼を高めるうえで役立ちます。

また、生成されたコンテンツの品質の評価や比較が難しい場合もあります。従来の評価メトリクスでは、創造性、一貫性、関連性などの微妙な側面を捉えられない場合があります。 安定性と信頼性の高い生成AIの評価方法の作成については、依然として盛んに研究が行われています。

生成AIモデルを悪用して説得力のあるフィッシングメールや偽のアイデンティティなどの不正なコンテンツを生成してユーザーをだまし、セキュリティデータ・プライバシーを侵害につながる行動をとらせることができます。 開発者やユーザーは、自身の知的財産（IP）や自身以外の組織がIPとして保護している情報を公開しないよう、チューニング中またはプロンプトの一部としてモデルに入力するデータに注意する必要があります。また、自身のIPを公開したり、他者のIP保護を侵害したりする新しいコンテンツがないか、出力を監視する必要があります。

ディープフェイクとは、虚偽の発言や行動を本当のことのように人々に信じこませるために、AIを使って生成または処理した画像、動画、音声です。これらは、生成AIの力が悪意を持つユーザーに利用されたらどうなるかを示す、特に恐ろしい例です。

評価を損ねたり誤った情報を広めたりするために作成されるディープフェイクはほとんどの人によく知られています。 最近のサイバー犯罪者は、サイバー攻撃（ボイス・フィッシング詐欺の偽音声など）や金融詐欺の手口にディープフェイクを導入しています。

研究者は、ディープフェイクを検出する精度の高いAIモデルの開発に熱心に取り組んでいます。 こうしたモデルが開発されるまでの間は、ユーザーの教育やベストプラクティス（未検証または精査されておらず、異論のある素材を共有しないなど）は、ディープフェイクが及ぼす被害を抑えるのに役立ちます。