生成AI、これってホント？

砕石ブログ

2025-09-02

どうもお久しぶりです！
なんとブログの更新は約1年ぶり…。時が経つのは早いですね。
この1年いろいろありましたが、今回は 生成AIのリスク について書いてみようと思います。

最近は資料作成やレポートづくりにAIを使う人も増えてきてますよね。
私も「Gamma」という生成AIを試してみたんですが、そこでちょっと考えさせられる体験をしたのでシェアします。

最近、プレゼン資料作成AIの Gamma を使ってみたところ、思わぬ落とし穴に気づきました。
Gammaに「スラグが砕石業界に与える影響」についてレポートを作らせたら、最後にずらっと参考文献が並んだんです。

「おお、ちゃんと学術的に裏付けされてるじゃないか！」と思いきや……。
調べてみたらそのほとんどが 存在しない文献。
タイトルも著者名も、いかにもありそうで、それっぽい。でも実際にはどのデータベースにもヒットしない。
まさに「もっともらしいウソ」だったわけです。

これって怖いですよね。表面的には本物っぽく見えるだけに、つい信じてしまう。
生成AIの最大のリスクの一つが、ここにあります。

任意のテーマで生成AIにレポートを書かせ、参考文献まで出させる。
→ その後、一つ一つ ファクトチェック（実在するか確認） を行う。
→ 嘘だった文献は削除、正しいものだけ残す。

あらかじめ「審議済みの論文や記事、業界団体の統計資料」を自分でストックしておく。
→ そのデータ群をAIに渡し、そこからだけ引用してレポートを作成させる。
→ これなら“架空文献”の混入を防げる。

実際は①と②のハイブリッドが現実的。
まずAIに自由に生成させてアウトラインや骨格を作り、最後に人間が信頼できる文献で肉付け・裏取りする。
AIはあくまで“たたき台作成ツール”として使うイメージです。

生成AIは資料作りの時間を劇的に短縮してくれます。
でも「出てきた文献やデータをそのまま鵜呑み」は危険。

ベストな手順は：

この流れを守れば、AIの便利さを享受しつつ、リスクも最小限にできます。