AI によって生成された研究が Google Scholar を引き継ぐ: 科学の世界は偽の研究で氾濫しているのか?

最近の研究では、人工知能 (AI) が科学研究、特に分野での使用が増えていることが示唆されています。学者ですが、残念なことに、AI によって生成されたコンテンツが学術エコシステムに氾濫しています。これは科学的知識の信頼性に脅威をもたらします。

ハーバード大学ケネディスクールの誤った情報レビューに掲載された最近の研究では、AI によって生成された研究がどのように Google Scholar などのプラットフォームに氾濫し、学術コミュニケーションの水域を濁らせ、科学記録の完全性を損なう可能性があるかを示しています。

AI によって生成された研究論文はどこにでも存在します

グレッグ・ブラ/アンスプラッシュ

OpenAI の ChatGPT と同様に、生成済みの事前トレーニング済みトランスフォーマーは、迅速なテキスト生成を行うことができる大規模な言語モデルです。そうすることで、学術コンテンツの解釈と作成の両方を行う新しい手段が提供されます。によるとギズモード, AI ツールは図や画像から研究論文全体に至るまで膨大な量のテキストを生成できるため、一見信頼できるように見える学術論文をこれまでより簡単に作成できるようになります。

しかし、その手軽さには暗い側面もあります。あ最近の研究研究者らは、Google Scholar で公開された科学論文内に GPT で生成されたコンテンツがどのくらいの頻度で表示されているかを分析し、いくつかの憂慮すべき結論を明らかにしました。

分析されたすべての論文の 3 分の 2 で、AI を使用してテキストが生成された証拠が示されており、中には優れた論文として知られる学術雑誌に掲載されたものもあります。

複数の分野にわたる GPT で作成された論文

この研究では、AI によって生成された研究が、健康、環境、コンピューティングなどの複数の学術分野にわたって見られることが強調されました。具体的には：

健康に関するGPT捏造論文は14.5％。
19.5% が環境問題に焦点を当てました。
23% はコンピューティング研究に関連していました。

これらの調査結果は、GPT によって生成されたコンテンツがもはや査読されていない未知のジャーナルや論文に限定されず、主流の科学文献にも浸透しているため、この問題が広く蔓延していることを明確に示しています。

同論文はまた、これらの論文のほとんどが索引付けされていないジャーナル、研究論文、さらには確立された会議議事録に掲載されたことも指摘した。

学術的誠実さと社会の信頼に対する危険

AI による研究の増加は、学術コミュニティと広範な公共の利益に 2 つの主なリスクをもたらします。

偽の研究は、査読済みの正規の研究をかき消しています。その結果、学術データベースに偽の情報や全くのナンセンスが溢れかえる可能性があります。

AI によって生成されたテキストが非常に複雑になっているため、本物の研究と科学者や一般市民によるフィクションの研究を区別することがますます困難になってきています。その点で、科学文献に対する信頼が損なわれ、どのような情報が信頼できるのか、また誤解を招く可能性のある情報や有害な情報さえも保証できなくなります。

スウェーデン図書館情報科学大学院の研究者で論文の共著者であるビョルン・エクストローム氏は、「AIで生成された研究が検索エンジンに広まると、いわゆる『証拠ハッキング』のリスクが大幅に高まる」と述べた。ボロース大学リリース。

Google Scholar は、より正式な学術データベースの厳格な審査を行わずにさまざまなソースから論文を集約しているため、誰でもこれらの欺瞞的な可能性のある論文にアクセスして取得することができます。

これらの論文は簡単に見つけられるため、特に査読済みの研究と信頼性の低い情報源を区別するのに苦労する一般の人々にとって、問題はさらに複雑になります。

学術出版に対する AI の影響の増大に関するケーススタディ

最近出版された不適切で無関係な論文の多くは出版社によって撤回されなければならなかったので、これが最初の問題ではありません。これには、2021年にシュプリンガー・ネイチャーによって撤回された40本以上の論文が含まれている。これらの論文はアラビアン・ジャーナル・オブ・ジオサイエンスに掲載されたもので、ジャーナルの焦点とは何の関係もなく、ほとんど意味がなかった。

これらの問題における AI の役割はますます明らかになってきています。注目すべき例は、2023年に発生したもので、出版社のフロンティアズが、不正確な解剖学的詳細を描いたAI生成画像を含む論文を『細胞と発生生物学』誌に出版したことで反発に直面した。この誤りは世間の批判を受けて論文の撤回につながった。

この例では、最終的に次のように言えます。電光石火の速さで広がる可能性があります。

科学における AI: 両刃の剣

これらすべての課題にもかかわらず、AI には科学的発見を前進させる大きな可能性があります。 AI ツールは、古代文書の解読、新しい考古学的発見の発見、さらには化石分析の改善に役立ちます。

そのためには、査読済みジャーナルや学術ウェブサイトで何が許可され、公開されているかについての厳格なチェックを導入することで、査読済みジャーナルや学術ウェブサイトのセキュリティを強化する必要があり、その結果、コンテンツの審査プロセスがより厳密かつ厳しくなります。 AI が生成した論文を通じて科学界や一般大衆に誤解を招くような行為が入り込むことを許してはなりません。

一方、GPT-3 がコンテンツを書く際のライターの創造性と発言力にどのような影響を与えるかをまとめています。つまり、作家の作品の信頼性に影響を与えるのです。