ChatGPT
ChatGPT(チャットジーピーティー、Generative Pre-trained Transformer)[1]は、OpenAIが2022年11月に公開したチャットボット。OpenAIのGPT-3.5ファミリーの言語モデルを基に構築されており、教師あり学習と強化学習の両方の手法で転移学習されている[2]。
開発元 | OpenAI |
---|---|
初版 | 2022年11月30日 |
種別 |
人工知能 人工無脳 |
ライセンス | プロプライエタリソフトウェア |
公式サイト |
chat |
2022年11月30日にプロトタイプとして公開され、幅広い分野の質問に詳細な回答を生成できることから注目を集めた。しかし、人間が自然と感じる回答の生成を特徴としていることから、自然に見えるが事実とは異なる回答を生成することもあり[3][4]、大きな欠点とされた[5]。ChatGPTのリリース後、OpenAIは290億米ドルと評価された[6]。ローンチから2か月で、ユーザ数は1億人に達した[7]。
トレーニング
ChatGPTは、教師あり学習と強化学習を使用して、GPT-3.5上で微調整された[8]。どちらのアプローチも、人間のトレーナーを使用してモデルのパフォーマンスを改善した。教師あり学習の場合、モデルには、トレーナーがユーザーとAIアシスタントの両方を演じる会話が提供された。強化ステップでは、まず人間のトレーナーが、モデルが以前の会話で作成した応答をランク付けした。これらのランキングは、 Proximal Policy Optimization (PPO)を数回繰り返してモデルをさらに微調整した「報酬モデル」を作成するために使用された[9][10]。近接ポリシー最適化アルゴリズムは、信頼領域ポリシー最適化アルゴリズムに費用対効果の高い利点をもたらした。より高速なパフォーマンスで、計算コストの高い操作の多くを無効にする[11]。モデルは、Azureスーパーコンピューティング インフラストラクチャでMicrosoftと共同でトレーニングされた。
さらに、OpenAIは、ChatGPTのさらなるトレーニングと微調整に使用できるChatGPTユーザーからのデータを引き続き収集する。ユーザーは、ChatGPTから受け取った応答に対して賛成票または反対票を投じることができる。賛成票または反対票を投じると、テキストフィールドに追加のフィードバックを入力することもできる[12][13][14]。
機能
チャットボットの主要機能は人間と人間の対話を模範することにもかかわらず、ChatGPTについてはそれを越す汎用的かつ即興的な機能が備わっており、話題となった。ChatGPTは、マルバツゲームを遊べたり、リナックスシステムを模範できたり[15]、プログラミングやデバッグが出来たり、音楽、小説、脚本、詩、歌詞や作文を作れることができる上[16]、時によってはテストの問題へ人間の平均同等、またはそれ以上の回答を生成することが出来るなど[17]、幅広い機能を持ち合わせていることが確認されている。
前作のInstructGPTと比べ、ChatGPTは攻撃的・欺瞞的な回答の生成をできるだけ無くす仕様となっている[18]。学習データにはmanページ、Pythonや電子掲示板など、プログラミング言語やインターネット現象についても含まれている[15]。
ほとんどのチャットボットとは対象的に、ChatGPTは会話内での利用者による過去の入力を記憶している。これにより、ChatGPTが個人的な療法士として使える可能性があることが指摘されている[19]。攻撃的な回答が生成されるのを防ぐため、ユーザーの入力とChatGPTの生成した回答はOpenAIのコンテンツモデレーションAPI[20][21]によってフィルターされており、人種差別的・性差別的な入力への回答はAPIによって拒否される仕様になっている[22][19]。
機能は豊富なものの、複数の欠点も有る。OpenAIはChatGPTが「時によっては、もっともらしく見えるが誤っている回答を作成する」ことを認めている[22]。ChatGPTの報酬モデルは人間による監視を中心としているため、最適化されすぎてパフォーマンスに影響を及ばしてしまう(グッドハートの法則)[23]。それに加え、ChatGPTは2021年以降に発生した出来事については知識が備えられておらず、一部の著名人については知識が全く無いことも有る[要出典]。 BBCによると、2022年12月現在でChatGPTは政治的な意見を表明しない仕様である[24]。ChatGPTの学習中、人間の「教師」は回答の正当性などに関係なく長い回答を好んでいた[22]。また、訓練データはアルゴリズム的バイアスがあり、時によって人種差別的や性差別的な回答を生成させることにもつながったと言われている。例として、有色人種や女性の科学者は白人男性の科学者よりも優れている、といった内容のラップを生成したことがあった[25][26]。
サービス
ChatGPTは2022年11月30日に公開された。当初は無料で公開されたが、後に有料化する計画があるという[27]。開発元のOpenAIは同年12月4日までにユーザー数が100万を突破したと見積もった[28]。12月15日、CNBCはサーバーが「未だ時々ダウンする」と報告した[29]。ChatGPTは主に英語での使用を想定しているが、他の言語でもある程度は機能することができる[16]。2022年現在、最近話題となったAIとは対象的に、ChatGPTに関する査読済みの技術論文は無い[30]。
OpenAIの客員研究員であるスコット・アーロンソンは、ChatGPTの悪用を防ぐため、同社がChatGPTの文書生成システムに何らかの形で透かしを入れる機能を開発していると明かした[31][32]。また、ニューヨーク・タイムズは、ChatGPTの後継として、GPT-4が2023年内に公開されることが「噂されている」と報じた[19]。
反響
肯定的な意見
ニューヨーク・タイムズは、ChatGPTを今まで公衆に公開されてきたチャットボットの中で一番良いものであると評し[33]、英ガーディアンはChatGPTが「驚くほど詳細」でまるで「人間のような」回答を生成することができると記した[34]。ダン・ギルモアはChatGPTを生徒の課題に使い、出力結果が優秀な生徒による回答と同レベルであることを発見した上で、「学界は大きな問題に直面している」と意見した[35]。また、アメリカ合衆国に拠点を置く雑誌『Slate』は、ChatGPTが、ユーザーがナチス・ドイツに関する質問を入力した際に生成する回答を賛美した。同雑誌は例として、アドルフ・ヒトラーがアウトバーンを建設したというナチス・ドイツを賛美する内容の入力に対し、ChatGPTがナチス・ドイツによる強制労働について解説する回答を生成したことを挙げた[36]。
Vox Mediaのケルシー・パイパーは、ChatGPTがAIの進化ぶりを公衆に可視化したことで公衆が唖然としたことを指摘し、欠点を差し引いてもChatGPTは高い頭脳を有していると評価した。Yコンビネータのポール・グレアムは「ChatGPTに圧倒されている人たちが、新しい物全部にキャーキャー言う人だけではないのが印象的だ。確実に何か大きいことが起こっている[37]」とツイートした。開発元であるOpenAIの設立者の一人でもあるイーロン・マスクは、「ChatGPTは恐ろしいほど良い。危険なほどのAIも遠くない」と書いた[38]。また、彼は「OpenAIはオープンソースかつ非営利団体として設立されたが、今ではそれが変わっている」と主張し、同社によるTwitterのデータベースへのアクセスを一時遮断した[39][40]。マスクは人工一般知能による人類存亡リスクに対応するため、2015年にOpenAIを共同設立していたが、2018年にCEOの座を降りていた[40]。
2022年12月、ニューヨーク・タイムズは、ChatGPTが検索エンジン事業にもたらす脅威を受け、自社の検索エンジンの先行きが曇ってきたことから、Googleが「コードレッド(緊急事態)」を発動し、サンダー・ピチャイCEOが社内にChatGPTの脅威に対応するよう命じたと報じた[41][42]。
否定的な意見
2022年の12月、経済学者のポール・クルーグマンはChatGPTが知識労働者の需要に影響すると意見し[43]、ザ・ヴァージは、ChatGPTの成功は、AIが主流になりつつあることを表していると意見した[44]。また、ChatGPTがよく「幻覚」を見ており、事実と異なる回答を生成することが多い、という指摘が上がった[45]。マッシャブルのマイク・パールは、ChatGPTに複数の質問をし、回答の正確性をテストした。一例では、彼が「中央アメリカで、メキシコの次に大きな国」は何か質問した際、グアテマラと回答した(正しい答えはニカラグアであった)[46]。また、CNBCがある曲の歌詞を生成するよう求めた時、ChatGPTは実際の歌詞ではなく新しく自身で生成した歌詞を回答した[29]。
2022年12月、コミュニティサイトのStack Overflowは、ChatGPTの回答には誤答が少なくないことを理由として、同サイトでの質問にChatGPTを使って回答することを禁止した[47]。
経済学者のタイラー・コーエンは、ChatGPTが民主主義にもたらす効果について懸念を示した[48]。英ガーディアン紙は、ChatGPTの公開を受けて、インターネット上のいかなるコンテンツが「本当に信用できるか」疑問を呈し、政府による規制を呼び掛けた[49]。
Bleeping ComputerのAx Sharmaは、ChatGPTがフィッシング詐欺などを目的とするメールを書くことができると指摘し[50]、OpenAIのサム・アルトマンCEOは、ソフトウェアの開発が進むことによって、「サイバーセキュリティにおける大きなリスク」などをもたらす可能性があることを記した。また、彼は今後10年で本物の強いAIが開発されることになると予想し、それのリスクに真剣に向き合わなければいけないとした[28]。
関連項目
脚注
出典
- ^ Roose, Kevin (5 December 2022). “The Brilliance and Weirdness of ChatGPT” (HTML) (英語). New York Times. 26 December 2022閲覧。
- ^ “ChatGPT – The Most Advance Chatbot in the World”. opChatgpt 18 de janeiro de 2023閲覧。
- ^ ““衝撃度半端ない” 対話するAI「ChatGPT」とは”. 日本放送協会. 2022年12月28日時点のオリジナルよりアーカイブ。2023年1月2日閲覧。
- ^ 世永玲生 (2022年12月28日). “誰でも使える対話型AI「ChatGPT」は相談相手にピッタリだった”. Forbes Japan. 2023年1月23日閲覧。
- ^ Vincent, James (5 December 2022). “AI-generated answers temporarily banned on coding Q&A site Stack Overflow” (HTML) (英語). The Verge. 5 December 2022閲覧。
- ^ Varanasi, Lakshmi. “ChatGPT creator OpenAI is in talks to sell shares in a tender offer that would double the startup's valuation to $29 billion” (英語). Business Insider. 2023年2月5日閲覧。
- ^ “チャットGPT、ユーザー数の伸びが史上最速=UBSアナリスト”. ロイター. 2023年2月2日閲覧。
- ^ Greengard, Samuel (2022年12月29日). “ChatGPT: Understanding the ChatGPT AI Chatbot” (英語). eWEEK. 2023年2月5日閲覧。
- ^ “ChatGPT: Optimizing Language Models for Dialogue” (英語). OpenAI (2022年11月30日). 2023年2月5日閲覧。
- ^ Vincent, James (2022年12月8日). “ChatGPT proves AI is finally mainstream — and things are only going to get weirder” (英語). The Verge. 2023年2月5日閲覧。
- ^ PhD, Wouter van Heeswijk (2023年1月31日). “Proximal Policy Optimization (PPO) Explained” (英語). Medium. 2023年2月5日閲覧。
- ^ “What is ChatGPT and why does it matter? Here's everything you need to know” (英語). ZDNET. 2023年2月5日閲覧。
- ^ “ChatGPT Feedback Contest: Official Rules”. OpenAI. 30 December 2022閲覧。
- ^ “Help OpenAI improve ChatGPT and get a chance to win $500” (英語). Geek Culture. Medium (blogging website) (15 December 2022). 30 December 2022閲覧。
- ^ a b Edwards, Benj (5 December 2022). “No Linux? No problem. Just get AI to hallucinate it for you”. Ars Technica. 5 December 2022閲覧。
- ^ a b “ChatGPT: What is the new free AI chatbot? - explainer”. The Jerusalem Post. (2022年) 30 December 2022閲覧。
- ^ Heilweil, Rebecca (7 December 2022). “AI is finally good at stuff. Now what?” (英語). Vox 30 December 2022閲覧。
- ^ “What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 - Updated Geek by Raveen Chawla” (英語) (2022年12月26日). 2022年12月27日閲覧。
- ^ a b c Roose, Kevin (5 December 2022). “The Brilliance and Weirdness of ChatGPT”. The New York Times. 5 December 2022閲覧。
- ^ “New and Improved Content Moderation Tooling” (英語). OpenAI (10 August 2022). 30 December 2022閲覧。
- ^ “A Holistic Approach to Undesired Content Detection in the Real World”. arXiv:2208.03274 [cs] (5 August 2022). 30 December 2022閲覧。
- ^ a b c OpenAI (30 November 2022). “ChatGPT: Optimizing Language Models for Dialogue” (HTML) (英語). 5 December 2022閲覧。
- ^ Gao, Leo; Schulman; Hilton, Jacob (2022). "Scaling Laws for Reward Model Overoptimization". arXiv:2210.10760 [cs.LG]。
- ^ “Could a chatbot answer Prime Minister's Questions?”. BBC News. (27 December 2022) 30 December 2022閲覧。
- ^ Perrigo, Billy (5 December 2022). “AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits”. Time (magazine). 26 December 2022閲覧。
- ^ Biddle, Sam (8 December 2022). “The Internet’s New Favorite AI Proposes Torturing Iranians and Surveilling Mosques”. The Intercept. 26 December 2022閲覧。
- ^ Karpf, David (2022年12月21日). “Money Will Kill ChatGPT’s Magic” (英語). The Atlantic. 2022年12月31日閲覧。
- ^ a b “What is ChatGPT and why does it matter? Here's what you need to know” (英語). ZDNET. (2022年) 18 December 2022閲覧。
- ^ a b Pitt, Sofia (2022年). “Google vs. ChatGPT: Here's what happened when I swapped services for a day” (英語). CNBC 18 December 2022閲覧。
- ^ Walsh, Toby (2022年). “Everyone's having a field day with ChatGPT – but nobody knows how it actually works” (英語). The Conversation 30 December 2022閲覧。
- ^ Kovanovic, Vitomir (2022年). “The dawn of AI has come, and its implications for education couldn't be more significant” (英語). The Conversation 30 December 2022閲覧。
- ^ Wiggers, Kyle (10 December 2022). “OpenAI's attempts to watermark AI text hit limits”. TechCrunch 30 December 2022閲覧。
- ^ Roose, Kevin (5 December 2022). “The Brilliance and Weirdness of ChatGPT”. The New York Times 18 December 2022閲覧。
- ^ Lock, Samantha (2022年12月5日). “What is AI chatbot phenomenon ChatGPT and could it replace humans?”. The Guardian. 2022年12月5日閲覧。
- ^ Hern, Alex (2022年12月4日). “AI bot ChatGPT stuns academics with essay-writing skills and usability”. The Guardian. 2022年12月5日閲覧。
- ^ Kantrowitz, Alex (2022年12月2日). “Finally, an A.I. Chatbot That Reliably Passes "the Nazi Test"”. Slate. 2022年12月5日閲覧。
- ^ Scharth, Marcel. “The ChatGPT chatbot is blowing people away with its writing skills. An expert explains why it's so impressive” (英語). The Conversation 30 December 2022閲覧。
- ^ Piper, Kelsey (15 December 2022). “ChatGPT has given everyone a glimpse at AI's astounding progress” (英語). Vox 18 December 2022閲覧。
- ^ “Explainer: ChatGPT - what is OpenAI's chatbot and what is it used for?” (英語). Reuters. (5 December 2022) 30 December 2022閲覧。
- ^ a b Kay, Grace (11 December 2022). “Elon Musk founded — and has since criticized — the company behind the buzzy new AI chatbot ChatGPT. Here's everything we know about OpenAI.”. Business Insider 30 December 2022閲覧。
- ^ a b Grant, Nico; Metz, Cade (21 December 2022). “A New Chat Bot Is a 'Code Red' for Google's Search Business”. The New York Times 30 December 2022閲覧。
- ^ 「グーグルが方針変更、ChatGPTに対抗へ…ピチャイCEOが新しいAI製品の開発を指示」『Business Insider』2022年12月23日。2023年1月27日閲覧。
- ^ Krugman, Paul (6 December 2022). “Does ChatGPT Mean Robots Are Coming For the Skilled Jobs?” (HTML). The New York Times. 6 December 2022閲覧。
- ^ Vincent, James (2022年12月8日). “ChatGPT proves AI is finally mainstream – and things are only going to get weirder” (HTML) (英語). The Verge. 2022年12月8日閲覧。
- ^ “ChatGPT a 'landmark event' for AI, but what does it mean for the future of human labour and disinformation?”. CBC. (2022年) 18 December 2022閲覧。
- ^ Pearl, Mike (3 December 2022). “The ChatGPT chatbot from OpenAI is amazing, creative, and totally wrong”. Mashable. 5 December 2022閲覧。
- ^ Vincent, James (5 December 2022). “AI-generated answers temporarily banned on coding Q&A site Stack Overflow” (HTML) (英語). The Verge. 5 December 2022閲覧。
- ^ Cowen, Tyler (6 December 2022). “ChatGPT Could Make Democracy Even More Messy”. Bloomberg News. 6 December 2022閲覧。
- ^ “The Guardian view on ChatGPT: an eerily good human impersonator” (英語). the Guardian. (8 December 2022) 18 December 2022閲覧。
- ^ Sharma, Ax (6 December 2022). “OpenAI's new ChatGPT bot: 10 dangerous things it's capable of”. Bleeping Computer. 6 December 2022閲覧。
外部リンク
- 公式ウェブサイト
- White paper for InstructGPT, ChatGPT's predecessor
- @ChatGPTBot, an unofficial ChatGPT gateway
- ChatGPT Wrote My AP English Essay—and I Passed (WSJ, video, Dec 21 2022)