「ChatGPT」の版間の差分
削除された内容 追加された内容
Syunsyunminmin (会話 | 投稿記録) m cl |
|||
(54人の利用者による、間の93版が非表示) | |||
1行目:
{{pp-vandalism|small=yes}}
{{Infobox Software
| name = ChatGPT
| logo = [[File:ChatGPT logo.svg|150px]]
| screenshot =
| screenshot size =
| caption = ChatGPTのスクリーンショット([[Google Chrome]])
8 ⟶ 9行目:
| developer = [[OpenAI]]
| released = {{Start date and age|2022|11|30}}
| latest release version = {{Start date and age|2023|
| latest release date =
| repo =
| programming language =
| operating system =
| エンジン = [[GPT-3.5]]<br>[[GPT-4]]<br>[[GPT-4o]]
| genre = [[人工知能]]
| license = [[プロプライエタリソフトウェア]]
| website = {{Official URL
}}
'''ChatGPT'''(チャットジーピーティー、[[英語]]: Chat Generative Pre-trained Transformer)<ref>{{Cite web |last=Roose |first=Kevin |date=5 December 2022 |title=The Brilliance and Weirdness of ChatGPT |url=https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |url-status=live |access-date=26 December 2022 |website= |publisher=New York Times |language=en-US |format=HTML}}</ref>は、[[OpenAI]]が[[2022年]]11月に公開した[[人工知能]][[
GPTの原語の'''[[GPT (言語モデル)|Generative Pre-trained Transformer]]'''とは、「生成可能な事前学習済み変換器」という意味である<ref>{{Cite web == 概要 ==
2022年[[11月30日]]に[[プロトタイプ]]として公開され、幅広い分野の質問に詳細な回答を生成できることから注目を集めた。しかし、[[人間]]が自然と感じる回答の生成を特徴としていることから、一見自然に見えるが事実とは異なる回答を生成することもあり<ref>{{Cite web
2024年6月10日、OpenAIは、[[Apple]]にChatGPTを提供する契約を結んだことを発表した<ref>{{Cite web |url=https://openai.com/index/openai-and-apple-announce-partnership/ |title=OpenAI and Apple announce partnership to integrate ChatGPT into Apple experiences |access-date=2024/06/24}}</ref>。2025年秋からベータ版提供の予定<ref>{{Cite web |title=iPhone、iPad、MacにApple Intelligenceが登場 |url=https://www.apple.com/jp/newsroom/2024/06/introducing-apple-intelligence-for-iphone-ipad-and-mac/ |website=Apple Newsroom (日本) |access-date=2024-06-24 |language=ja-JP}}</ref>の[[Apple Intelligence]]はApple独自の生成AIプラットフォームだが、[[macOS Sequoia]], [[iPadOS 18]], [[iOS 18]]上の[[Siri]]や記述ツールからChatGPTを任意に呼び出して利用できるようになる。
[[スイス]]の金融グループ[[UBS]]の分析によると、ChatGPTが[[:en: Active users|アクティブユーザー]]数1億人に到達するのにかかった時間は、[[TikTok]]と[[Instagram]]がそれぞれ9カ月と2年半であるのに対して、2か月と史上最速である<ref>{{Cite web|和書|url=https://jp.reuters.com/article/idJPKBN2UC04M|title=チャットGPT、ユーザー数の伸びが史上最速=UBSアナリスト|accessdate=2023-02-02|publisher=ロイター}}</ref>。
OpenAIによれば、[[オプトアウト]]を申請しない限り、ユーザーが入力したChatGPTとの会話内容はOpenAIによってその内容を利用されることがある<ref>{{Cite web|url=https://help.openai.com/en/articles/5722486-how-your-data-is-used-to-improve-model-performance|title=How your data is used to improve model performance|website=OpenAI|accessdate=2023-3-24}}</ref>。このため、一般的にChatGPTの利用に際して[[個人情報]]と機密情報の入力に注意する必要があり<ref>{{Cite web|和書|url=https://jbpress.ismedia.jp/articles/-/74425?page=8|title=世界を一変させるChatGPT、企業や社会が認識していない静かな情報漏洩リスク|website=JBpress|accessdate=2023-3-24}}</ref><ref name="u-tokyo-20230403-generative-ai">{{Cite web|和書|url=https://utelecon.adm.u-tokyo.ac.jp/docs/20230403-generative-ai|title=生成系AI(ChatGPT, BingAI, Bard, Midjourney, Stable Diffusion等)について|accessdate=2023-4-5|website=東京大学}}</ref>、[[JPモルガン]]、[[サムスン電子]]など一部の[[企業]]はChatGPTへのアクセスを禁止している<ref name="forbes-samsung"/><ref>{{Cite web|和書|url=https://www.bloomberg.co.jp/news/articles/2023-02-22/RQH5NOT0AFB401|title=JPモルガン、「ChatGPT」チャットボットの行員利用を制限-関係者|website=Bloomberg|accessdate=2023-4-1}}</ref><ref name="forbes-63307">{{Cite web|和書|url=https://forbesjapan.com/articles/detail/63307|title=アップルも従業員のChatGPT使用を禁止、データ流出を懸念|website=Forbes|accessdate=2023-5-20}}</ref>。
ChatGPTによる[[個人情報]]の収集に関しては、[[EU一般データ保護規則]]に違反している疑惑も浮上しており、[[2023年]][[3月31日]]、[[イタリア政府]]はChatGPTの訓練のために個人情報を大量に収集することを正当化する法的根拠がないと指摘して、ChatGPTへのアクセスを一時禁止した
また、
== トレーニング ==
37 ⟶ 42行目:
== 機能 ==
チャットボットの主要機能は人間
前作のInstructGPTと比べ、ChatGPTは攻撃的・欺瞞的な回答の生成をできるだけ避ける仕様となっている<ref>{{Cite web |date=2022-12-26 |title=What is ChatGPT? History, Features, Uses, Benefits, Drawbacks 2023 - Updated Geek by Raveen Chawla |url=https://updatedgeek.com/what-is-chatgpt/ |access-date=2022-12-27 |language=en-US}}</ref>。学習データには[[manページ]]、[[Python]]や[[電子掲示板]]など、[[プログラミング言語]]や[[インターネット現象の一覧|インターネット現象]]についても含まれている<ref name="ArsTechnicaTerminal" />。
43 ⟶ 48行目:
ほとんどのチャットボットとは対照的に、ChatGPTは会話内での利用者による過去の入力を記憶している。これにより、ChatGPTが個人に最適化されたセラピストとして使える可能性があることが指摘されている<ref name="NYTimesInfo">{{Cite web |url=https://www.nytimes.com/2022/12/05/technology/chatgpt-ai-twitter.html |title=The Brilliance and Weirdness of ChatGPT |date=5 December 2022 |last=Roose |first=Kevin |work=[[The New York Times]] |access-date=5 December 2022}}</ref>。攻撃的な回答が生成されるのを防ぐため、ユーザーの入力とChatGPTの生成した回答はOpenAIのコンテンツモデレーションAPI<ref>{{Cite web |title=New and Improved Content Moderation Tooling |url=https://openai.com/blog/new-and-improved-content-moderation-tooling/ |website=OpenAI |access-date=30 December 2022 |language=en |date=10 August 2022}}</ref><ref>{{Cite web |last1=Markov |first1=Todor |last2=Zhang |first2=Chong |last3=Agarwal |first3=Sandhini |last4=Eloundou |first4=Tyna |last5=Lee |first5=Teddy |last6=Adler |first6=Steven |last7=Jiang |first7=Angela |last8=Weng |first8=Lilian |title=A Holistic Approach to Undesired Content Detection in the Real World |url=https://arxiv.org/abs/2208.03274 |website=arXiv:2208.03274 [cs] |access-date=30 December 2022 |date=5 August 2022}}</ref>によってフィルターされており、[[人種差別]]的・[[性差別]]的な入力への回答はAPIによって拒否される仕様になっている<ref name="OpenAIInfo">{{Cite web |author=OpenAI |author-link=OpenAI |date=30 November 2022 |title=ChatGPT: Optimizing Language Models for Dialogue |url=https://openai.com/blog/chatgpt/ |url-status=live |access-date=5 December 2022 |language=en-US |format=HTML}}</ref><ref name="NYTimesInfo" />。
機能は豊富なものの、複数の欠点も有る。OpenAIはChatGPTが「時によっては、もっともらしく見えるが誤っている回答を作成する」ことを認めている<ref name="OpenAIInfo" />。ChatGPTの報酬モデルは人間による監視を中心としているため、最適化されすぎてパフォーマンスに影響を及ばしてしまう(
[[BBC]]によると、2022年12月現在でChatGPTは政治的な意見を表明しない仕様である<ref>{{Cite news |title=Could a chatbot answer Prime Minister's Questions? |url=https://www.bbc.com/news/uk-politics-64053550 |access-date=30 December 2022 |work=BBC News |date=27 December 2022}}</ref>。ChatGPTの学習中、人間の「教師」は回答の正当性などに関係なく長い回答を好んでいた<ref name="OpenAIInfo" />。また、訓練データは[[アルゴリズム的バイアス]]があり、時によって人種差別的や性差別的な回答を生成させることにもつながったと言われている。例として、[[有色人種]]や女性の科学者は[[白人]]男性の科学者よりも優れている、といった内容の[[ラップ]]を生成したことがあった<ref>{{Cite web |last=Perrigo |first=Billy |date=5 December 2022 |title=AI Chatbots Are Getting Better. But an Interview With ChatGPT Reveals Their Limits |url=https://time.com/6238781/chatbot-chatgpt-ai-interview/ |access-date=26 December 2022 |website=[[Time (magazine)|Time]]}}</ref><ref>{{Cite web |last=Biddle |first=Sam |date=8 December 2022 |title=The Internet’s New Favorite AI Proposes Torturing Iranians and Surveilling Mosques |url=https://theintercept.com/2022/12/08/openai-chatgpt-ai-bias-ethics/ |access-date=26 December 2022 |website=[[The Intercept]]}}</ref>。
ChatGPT-4が日本の医師国家試験を合格することができたとの研究報告がある<ref>{{cite journal | vauthors = Soshi Takagi, Takashi Watari, Ayano Erabi, Kota Sakaguchi | title = Performance of GPT-3.5 and GPT-4 on the Japanese Medical Licensing Examination: Comparison Study | journal = JMIR Med Educ. | volume = 29 | issue = 9 | pages = e48002. | date = January 2023 | pmid = 37384388 | pmc = 10365615 | doi = 10.2196/48002. }}</ref>。
== サービス ==
ChatGPTは2022年11月30日に公開された。当初は無料で公開されたが、後に有料化する計画があるという<ref>{{Cite web |last=Karpf |first=David |date=2022-12-21 |title=Money Will Kill ChatGPT’s Magic |url=https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-chatbots-openai-cost-regulations/672539/ |access-date=2022-12-31 |website=The Atlantic |language=en}}</ref>。開発元のOpenAIは同年12月4日までにユーザー数が100万を突破したと見積もった<ref name="ZDNET">{{Cite news |title=What is ChatGPT and why does it matter? Here's what you need to know |url=https://www.zdnet.com/article/what-is-chatgpt-and-why-does-it-matter-heres-what-you-need-to-know/ |access-date=18 December 2022 |work=ZDNET |date=2022 |language=en}}</ref>。12月15日、[[CNBC]]は[[サーバー (コンピューター)|サーバー]]が「未だ時々ダウンする」と報告した<ref name="CNBC">{{Cite news |last1=Pitt |first1=Sofia |title=Google vs. ChatGPT: Here's what happened when I swapped services for a day |url=https://www.cnbc.com/2022/12/15/google-vs-chatgpt-what-happened-when-i-swapped-services-for-a-day.html |access-date=18 December 2022 |work=CNBC |date=2022 |language=en}}</ref>。ChatGPTは主に英語での使用を想定しているが、他の言語でもある程度は機能することができる<ref name="jpost" />。2022年現在、最近話題となったAIとは対照的に、ChatGPTに関する査読済みの技術論文は無い<ref>{{Cite news |last1=Walsh |first1=Toby |title=Everyone's having a field day with ChatGPT – but nobody knows how it actually works |url=https://theconversation.com/everyones-having-a-field-day-with-chatgpt-but-nobody-knows-how-it-actually-works-196378 |access-date=30 December 2022 |work=The Conversation |date=2022 |language=en}}</ref>。
OpenAIの[[客員研究員]]である
2023年[[2月1日]]、有料版として「ChatGPT Plus」が発表された<ref>{{Cite web
2023年[[11月6日]](米国時間)、OpenAI DevDayが行われた<ref>{{Citation|title=OpenAI DevDay: Opening Keynote|last=OpenAI|date=2023-11-06|url=https://www.youtube.com/watch?v=U9mJuUkhUzk|access-date=2024-05-15}}</ref>。その中で、[[ノーコード開発プラットフォーム|ノーコード]]でカスタマイズ可能なChatGPTを作成できる「GTPs」を発表した。またGPTsを公開できる「GPT Store」を予定より少し遅れた2024年[[1月10日]]より、有償版ユーザー向けにリリースされた。
2023年[[3月15日]]、「ChatGPT4」が有料版として公開された<ref>{{Cite news|url=https://www.gizmodo.jp/2023/01/chat-gpt-openai-ai-finance-ai-everything-we-know.html|title=ChatGPTとは?始め方や使い方、料金も紹介【4月4日更新】|publisher=GIZMODO|date=2023-04-04|accessdate=2023-04-11}}</ref>。▼
=== GPTモデル ===
2022年11月30日、「GPT-3.5」が無料で公開された。
▲2023年[[3月15日]]、「
2023年[[7月10日]]、「Code Interpreter(コードインタープリタ)」が有償版ユーザー向けにベータ版提供を開始した<ref>{{Cite web |title=ChatGPT、データも扱える新機能「Code Interpreter」 |url=https://www.watch.impress.co.jp/docs/news/1515351.html |website=Impress Watch |date=2023-07-10 |access-date=2024-04-27 |language=ja |last=株式会社インプレス}}</ref>。
2023年[[9月20日]]、画像の出力が可能になる「Dall-E3(ダリ―スリー)」を統合することが発表された<ref>{{Cite web |title=OpenAI、「DALL・E 3」を発表--「ChatGPT」で画像生成が可能に |url=https://japan.cnet.com/article/35209400/ |website=CNET Japan |date=2023-09-22 |access-date=2024-04-27 |language=ja}}</ref>。また、同年[[10月16日]]にベータ版が公開された<ref>{{Cite web |title=OpenAIの「DALL・E 3」、ベータ版リリース--「ChatGPT」有料ユーザー向け |url=https://japan.cnet.com/article/35210515/ |website=CNET Japan |date=2023-10-20 |access-date=2024-04-27 |language=ja}}</ref>。
2023年[[9月25日]]、音声入力と画像入力が可能になる「GPT-4V(ビジョン:Vision)」が発表された<ref>{{Cite web |title=GPT-4V(ision) system card |url=https://openai.com/research/gpt-4v-system-card |website=openai.com |access-date=2024-04-27 |language=en-US}}</ref>。同年10月26日に公開した<ref>{{Cite web |title=OpenAIの「DALL・E 3」、ベータ版リリース--「ChatGPT」有料ユーザー向け |url=https://japan.cnet.com/article/35210515/ |website=CNET Japan |date=2023-10-20 |access-date=2024-04-27 |language=ja}}</ref>。
2024年[[2月15日]]、動画の生成を行える「Sora(ソラ)」を発表した<ref>{{Cite web |title=Sora: Creating video from text |url=https://openai.com/sora |website=openai.com |access-date=2024-04-27 |language=en-US}}</ref>。
2024年[[5月13日]]、音声認識、画像(動画)認識の速度が向上した「GPT-4o(オムニ:omni)」を発表、リリースした<ref>{{Cite web |url=https://openai.com/index/hello-gpt-4o/ |title=GPT-4omni |access-date=2024-05-16 |publisher=OpenAI}}</ref><ref>{{Cite web |url=https://openai.com/index/spring-update/ |title=Spring Update |access-date=2024-05-16 |publisher=OpenAI}}</ref>。
== 反響 ==
[[ニューヨーク・タイムズ]]は
[[Vox Media]]の
[[ファイル:Sundar_pichai.png|サムネイル|Googleのサンダー・ピチャイCEO<ref name="code red">{{Cite news |last1=Grant |first1=Nico |last2=Metz |first2=Cade |title=A New Chat Bot Is a 'Code Red' for Google's Search Business |url=https://www.nytimes.com/2022/12/21/technology/ai-chatgpt-google-search.html |access-date=30 December 2022 |work=The New York Times |date=21 December 2022}}</ref>]]
68 ⟶ 89行目:
== 批判 ==
[[ファイル:ChatGPT availability by country or region.svg|サムネイル|2023年6月現在、ChatGPTが利用できる国または地域を示した地図]]
文章生成に[[報道機関]]の記事を無報酬で使用しているとして、批判を受けている。『[[ウォール・ストリート・ジャーナル]]』紙の発行元である[[ダウ・ジョーンズ]]のジェイソン・コンティは「人工知能の訓練にウォール・ストリート・ジャーナルの記事を使う場合は、ダウ・ジョーンズから権利をきちんとライセンスすべきである」と述べ、「OpenAIはダウ・ジョーンズとそのような契約を結んでいない」と批判した。コンティは「ジャーナリストの記事の悪用を真剣に受け止めており、この状況を精査している」と付け加え、懸念を表明している<ref>{{Cite web |title=OpenAI Is Faulted by Media for Using Articles to Train ChatGPT|url=https://www.bloomberg.com/news/articles/2023-02-17/openai-is-faulted-by-media-for-using-articles-to-train-chatgpt|website=Bloomberg|access-date=2023-03-02}}</ref>。
2022年12月、経済学者の[[ポール・クルーグマン]]はChatGPTが[[知識労働者]]の需要に影響すると意見し<ref name="NYTimesKrugman">{{Cite web |last=Krugman |first=Paul |author-link=Paul Krugman |date=6 December 2022 |title=Does ChatGPT Mean Robots Are Coming For the Skilled Jobs? |url=https://www.nytimes.com/2022/12/06/opinion/chatgpt-ai-skilled-jobs-automation.html |access-date=6 December 2022 |work=[[The New York Times]] |format=HTML}}</ref>、[[ザ・ヴァージ]]は、ChatGPTの成功は、AIが主流になりつつあることを表していると意見した<ref name=":1">{{Cite web |last=Vincent |first=James |date=2022-12-08 |title=ChatGPT proves AI is finally mainstream{{snd}}and things are only going to get weirder |url=https://www.theverge.com/2022/12/8/23499728/ai-capability-accessibility-chatgpt-stable-diffusion-commercialization |url-status=live |access-date=2022-12-08 |website=[[The Verge]] |language=en-US |format=HTML}}</ref>。また、ChatGPTがよく「
[[経済学者]]で[[マサチューセッツ工科大学]]教授の[[ダロン・アシモグル]]とサイモン・ジョンソンは、ChatGPTのような[[人工知能]]技術は従来の技術革新とは異なる特徴を持っており、経済成長を促進せず経済全体に悪影響を与えると指摘した。つまり、AIは労働需要の減退と賃金の減少を招き、需要を減退させ経済全体を縮小させる。アシモグルらはAIを推進する大企業の姿勢に懸念を示し、こう述べた<ref name="ps-acemoglu-chatgpt">{{cite web|url=https://www.project-syndicate.org/commentary/chatgpt-ai-big-tech-corporate-america-investing-in-eliminating-workers-by-daron-acemoglu-and-simon-johnson-2023-02|title=What’s Wrong with ChatGPT?|website=Project Syndicate|accessdate=2023-4-27}}</ref>。
87 ⟶ 109行目:
[[ニック・ケイヴ]]はChatGPTで作成された本人を模倣したスタイルの[[歌詞]]を送られ、曲を書くという行為について、「血と根性のビジネスだ... 新しく新鮮なアイデアを始めるために僕の何かが必要なんだ。それは僕の人間性を必要とするものなんだ」と私見を述べた。彼はさらに、「世界中のすべての愛と敬意をもってしたとしても、この曲はくそったれで、人間であることを[[グロテスク]]に嘲笑っている、そしてまあ、僕はあまり好きではないね」と不快感を表明した<ref>{{Cite web |last=Cave |first=Nick |date=January 16, 2023 |title=I asked Chat GPT to write a song in the style of Nick Cave, and this is what it produced. What do you think? |url=https://www.theredhandfiles.com/chat-gpt-what-do-you-think/ |access-date=January 20, 2023 |website=The Red Hand Files |series=Issue #218 |language=en-AU |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120080808/https://www.theredhandfiles.com/chat-gpt-what-do-you-think/ |url-status=live}}</ref><ref name=":2">{{Cite news |date=January 16, 2023 |title='This song sucks': Nick Cave responds to ChatGPT song written in the style of Nick Cave |url=https://www.theguardian.com/music/2023/jan/17/this-song-sucks-nick-cave-responds-to-chatgpt-song-written-in-style-of-nick-cave |access-date=January 17, 2023 |website=The Guardian |last=Cain |first=Sian |language=en |archive-date=January 18, 2023 |archive-url=https://web.archive.org/web/20230118032435/https://www.theguardian.com/music/2023/jan/17/this-song-sucks-nick-cave-responds-to-chatgpt-song-written-in-style-of-nick-cave |url-status=live}}</ref><ref>{{Cite web |last=Sparrow |first=Jeff |date=January 20, 2023 |title=Are AI-generated songs a 'grotesque mockery' of humanity or simply an opportunity to make a new kind of music? |url=https://www.theguardian.com/commentisfree/2023/jan/20/are-ai-generated-songs-a-grotesque-mockery-of-humanity-or-simply-an-opportunity-to-make-a-new-kind-of-music |access-date=January 20, 2023 |website=The Guardian |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051254/https://www.theguardian.com/commentisfree/2023/jan/20/are-ai-generated-songs-a-grotesque-mockery-of-humanity-or-simply-an-opportunity-to-make-a-new-kind-of-music |url-status=live}}</ref>。
[[Bleeping Computer]](ブリーピングコンピューター)の
[[サイエンス・フィクション|SF]]作家の[[テッド・チャン]]は、『The New Yorker』誌の記事で、ChatGPTやその他の[[大規模言語モデル|LLM]]を[[非可逆圧縮]]形式の[[JPEG]]画像に例えた<ref>{{Cite web |last1=Chiang |first1=Ted |author1-link=Ted Chiang |title=ChatGPT Is a Blurry JPEG of the Web |url=https://www.newyorker.com/tech/annals-of-technology/chatgpt-is-a-blurry-jpeg-of-the-web |website=The New Yorker |access-date=17 February 2023 |date=9 February 2023}}</ref>。
<blockquote>
ChatGPTをWeb上のあらゆるテキストを不鮮明なJPEGにしたものと考えてみよう。JPEGが高解像度の画像の情報を保持するのと同じように、[[Web]]上の情報の多くを保持するが、正確なビット列を探しても見つからず、得られるのは近似値だけになる。しかし、ChatGPTが得意とする文法的な文章で表現しているため、大抵は許容範囲に収まる。〔…〕また、そのような考え方はChatGPTのような大規模な言語モデルが陥りやすい「ハルシネーション(幻覚)」、つまり事実に基づく質問に対してAIが作り出す無意味な回答を理解する方法でもある。このような幻覚は圧縮された人工物であるが、それを判別するためには、ウェブや私たち自身の世界の知識であるところのオリジナルと比較する必要がある。もし圧縮アルゴリズムが、オリジナルの99パーセントが破棄された後に、テキストを再構築するように設計されているなら、生成される相当部分は完全に捏造されたものであると予想されるからである。
</blockquote>
[[ジャーナリスト]]の[[ナオミ・クライン]]はChatGPTをはじめとする[[生成AI]]技術と関連企業を厳しく批判しており、「人類史上最大の盗み」「囲い込みと横領を行う機械」「[[吸血鬼]]的なチャットボット」であるとしており、「個人的な生および集合的な知的・芸術的遺産の双方を食い物にし、私有化する」としている。つまり、AI企業は[[インターネット]]上に公開された人類の知識全体を、製品の中に囲い込んで専売しており、人々の生涯をかけた労働が同意や許可を得ずに、訓練データに使われているというのである。クラインは以下のように述べた<ref name="iwanami-naomi">ナオミ・クライン、中村峻太郎(訳)「「幻覚を見ている」のはAIの機械ではなく、その製作者たちだ」『世界』岩波書店 2023年7月号 p85~95</ref>。
<blockquote>
こんなことが合法であるはずがない。AIモデルを訓練するのに使われたことが判明している著作権保護の素材(この『ガーディアン』紙も含まれる)に関しては何件もの訴訟が申請されており、明白に違法な行為が行われたという主張がそこでなされるだろう。例えば、営利企業が生身の芸術家たちの絵画や写真を[[Stable Diffusion]]やDALL-E 2のようなプログラムに注ぎ込み、それを使ってまさにその芸術家たちの作品の[[ドッペルゲンガー]]版を作成できるようにするなどということが、いったいどうして許されるのだろうか?その利益が芸術家たち自身にだけは還元されないというのに?<ref name="iwanami-naomi">ナオミ・クライン、中村峻太郎(訳)「「幻覚を見ている」のはAIの機械ではなく、その製作者たちだ」『世界』岩波書店 2023年7月号 p85~95</ref>
</blockquote>
ChatGPTはコンテンツポリシーに抵触する可能性のある入力への回答は拒否する仕様になっているが、[[プロンプト・エンジニアリング]]などを使って回避する方法が2022年12月に見つかっている<ref>{{Cite journal|last=Zvi|date=December 2, 2022|title=Jailbreaking ChatGPT on Release Day|url=https://www.lesswrong.com/posts/RYcoJdvmoBbi5Nax7/jailbreaking-chatgpt-on-release-day|journal=|language=en}}</ref>。これによって、ChatGPTに攻撃的や不適切な回答を生成させることが可能となっている<ref>{{Cite news |last1=Vincent |first1=James |title=OpenAI's new chatbot can explain code and write sitcom scripts but is still easily tricked |url=https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |access-date=January 6, 2023 |work=The Verge |date=December 1, 2022 |archive-date=January 17, 2023 |archive-url=https://web.archive.org/web/20230117070943/https://www.theverge.com/23488017/openai-chatbot-chatgpt-ai-examples-web-demo |url-status=live}}</ref>。
[[2023年]]3月28日、[[イーロン・マスク]]、[[スティーブ・ウォズニアック]]、[[ヨシュア・ベンジオ]]、[[スチュアート・ラッセル]]、[[ゲ
{{See also|[[汎用人工知能による人類滅亡のリスク]]}}
== 学術界の反応 ==
学術界では人間の生産性を上げることができるという声があり、大学によるとChatGPTのプロンプトエンジニア授業はすでに存在しているが<ref>{{Cite web|和書|title=Prompt Engineering for ChatGPT |url=https://www.coursera.org/learn/prompt-engineering |website=Coursera |access-date=2023-05-28 |language=ja}}</ref>、ChatGPTは論文の冒頭や一部の節を書くことができ、倫理的な疑問が上がっている<ref>{{Cite web |date=January 10, 2023 |last=Bushard |first=Brian |title=Fake Scientific Abstracts Written By ChatGPT Fooled Scientists, Study Finds |url=https://www.forbes.com/sites/brianbushard/2023/01/10/fake-scientific-abstracts-written-by-chatgpt-fooled-scientists-study-finds/ |access-date=January 30, 2023 |website=Forbes |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051254/https://www.forbes.com/sites/brianbushard/2023/01/10/fake-scientific-abstracts-written-by-chatgpt-fooled-scientists-study-finds/ |url-status=live}}</ref>。なお、複数の論文が既にChatGPTを共同著者として挙げていることが知られている<ref>{{Cite journal|last=Stokel-Walker|first=Chris|date=January 18, 2023|title=ChatGPT listed as author on research papers: many scientists disapprove|url=https://www.nature.com/articles/d41586-023-00107-z|journal=Nature|volume=613|issue=7945|pages=620–621|language=en|doi=10.1038/d41586-023-00107-z|pmid=36653617|s2cid=255969365|access-date=January 30, 2023|archive-date=January 30, 2023|archive-url=https://web.archive.org/web/20230130142004/https://www.nature.com/articles/d41586-023-00107-z|url-status=live}}</ref>。
[[アトランティック誌]]はChatGPTの学界、特に卒業論文などへの影響はまだ把握できる段階ではないと指摘したが<ref>{{Cite web |last=Marche |first=Stephen |date=December 6, 2022 |title=The College Essay Is Dead |url=https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/ |access-date=December 8, 2022 |website=[[The Atlantic]] |archive-date=January 24, 2023 |archive-url=https://web.archive.org/web/20230124042209/https://www.theatlantic.com/technology/archive/2022/12/chatgpt-ai-writing-college-student-essays/672371/ |url-status=live}}</ref>、[[カリフォルニア州]]のある高校教師はChatGPTが「[[高校]]での[[英語教育]]の終焉」を招いていると主張した<ref>{{Cite news |last=Herman |first=Daniel |date=December 9, 2022 |title=The End of High-School English |url=https://www.theatlantic.com/technology/archive/2022/12/openai-chatgpt-writing-high-school-english-essay/672412/ |access-date=December 12, 2022 |website=[[The Atlantic]] |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120053725/https://www.theatlantic.com/technology/archive/2022/12/openai-chatgpt-writing-high-school-english-essay/672412/ |url-status=live}}</ref>。[[ネイチャー]]のChris Stokel-Walkerは、[[教師]]は[[生徒]]が課題をChatGPT任せにしていることを問題視するべきだと指摘した<ref>{{Cite journal|last=Stokel-Walker|first=Chris|date=December 9, 2022|title=AI bot ChatGPT writes smart essays — should professors worry?|url=https://www.nature.com/articles/d41586-022-04397-7|journal=[[Nature (journal)|Nature]]|doi=10.1038/d41586-022-04397-7|pmid=36494443|access-date=December 19, 2022|s2cid=254530623|archive-date=January 17, 2023|archive-url=https://web.archive.org/web/20230117192149/https://www.nature.com/articles/d41586-022-04397-7|url-status=live}}</ref>。[[NPR (米国公共ラジオ放送)|NPR]]のEmma Bowmanは、学生がAIを使って不正を試みても、AIは偏見を含む、権威のある人のような口調とともに意味のない回答を生成する場合があり、AIがどれだけ素晴らしく見える回答を生成しても、生成内容と実際の事実は異なることがあると述べた<ref>{{Cite web |last=Bowman |first=Emma |title=A new AI chatbot might do your homework for you. But it's still not an A+ student |url=https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia |date=December 19, 2022 |access-date=December 19, 2022 |website=[[NPR (米国公共ラジオ放送)|NPR]] |archive-date=January 20, 2023 |archive-url=https://web.archive.org/web/20230120095239/https://www.npr.org/2022/12/19/1143912956/chatgpt-ai-chatbot-homework-academia/ |url-status=live}}</ref>。
{{仮リンク|ファーマン大学|en|Furman University}}教授のDarren Hickは、ある学生によって提出された論文がChatGPTの「型」に気が付いたことを話した。彼がその論文をGPT探知サイトにかけてみると、AIが生成した文章である可能性は99.9%であるとの結果が出たが、確証は得られなかった。問題の論文を提出した学生に質問したところ、GPTを使っていたことを白状したため、同学生は落第処分を受けた<ref>{{Cite news |title=Students using ChatGPT to cheat, professor warns |url=https://nypost.com/2022/12/26/students-using-chatgpt-to-cheat-professor-warns/ |last=Mitchell |first=Alex |access-date=December 30, 2022 |work=The New York Post |date=December 26, 2022 |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051258/https://nypost.com/2022/12/26/students-using-chatgpt-to-cheat-professor-warns/ |url-status=live}}</ref>。Hickは、AI生成の論文を[[コピペ]]したことが強く疑われる場合には、提出した生徒に「[[アドホック]]」として個別に口頭での試験を行うことを提案した<ref>{{Cite news |last1=Allen |first1=Mike |title=Professor warns about chatbot cheating: "Expect a flood" |url=https://www.axios.com/2022/12/26/chatbot-cheating-university-warning-chatgpt |access-date=December 30, 2022 |work=Axios |date=December 26, 2022 |language=en |archive-date=February 3, 2023 |archive-url=https://web.archive.org/web/20230203051357/https://www.axios.com/2022/12/26/chatbot-cheating-university-warning-chatgpt |url-status=live}}</ref>。ある[[プリンストン大学]]生は、入力された文章のどれくらいがAI生成かを判断できるプログラムを作成し、"GPTZero"と名付け<ref>{{Cite news |last1=Rosalsky |first1=Greg |last2=Peaslee |first2=Emma |date=January 17, 2023 |title=This 22-year-old is trying to save us from ChatGPT before it changes writing forever |work=NPR |url=https://www.npr.org/sections/money/2023/01/17/1149206188/this-22-year-old-is-trying-to-save-us-from-chatgpt-before-it-changes-writing-for |access-date=January 18, 2023 |quote=On January 2nd, Edward released his app. He named it GPTZero. It uses ChatGPT against itself, checking whether "there's zero involvement or a lot of involvement" of the AI system in creating a given text. [...] Along these lines, one obvious application for GPTZero is to help teachers identify whether their students are plagiarizing their essays from ChatGPT. |archive-date=January 18, 2023 |archive-url=https://web.archive.org/web/20230118055050/https://www.npr.org/sections/money/2023/01/17/1149206188/this-22-year-old-is-trying-to-save-us-from-chatgpt-before-it-changes-writing-for |url-status=live}}</ref>、[[盗用]]を防ぐツールとして貸し出している<ref>{{Cite web |date=January 4, 2023 |title=Did ChatGPT Write That? A College Student Created an AI Essay Detector |url=https://gizmodo.com/chatgpt-ai-essay-detector-college-princeton-edward-tian-1849946535 |access-date=January 4, 2023 |website=Gizmodo |last=Ropek |first=Lucas |language=en |archive-date=January 4, 2023 |archive-url=https://web.archive.org/web/20230104225814/https://gizmodo.com/chatgpt-ai-essay-detector-college-princeton-edward-tian-1849946535 |url-status=live}}</ref><ref>{{Cite news |last=Tran |first=Tony Ho |date=January 4, 2023 |title=A College Kid Built an App That Sniffs Out Text Penned by AI |language=en |work=The Daily Beast |url=https://www.thedailybeast.com/princeton-student-edward-tian-built-gptzero-to-detect-ai-written-essays |access-date=January 6, 2023 |archive-date=January 6, 2023 |archive-url=https://web.archive.org/web/20230106162856/https://www.thedailybeast.com/princeton-student-edward-tian-built-gptzero-to-detect-ai-written-essays |url-status=live}}</ref>。
2022年12月、[[ニューヨーク市教育局]]がChatGPTへのアクセスをブロックしたことが報じられた<ref>{{Cite news |title=New York City Department of Education Bans ChatGPT |url=https://www.govtech.com/education/k-12/new-york-city-department-of-education-bans-chatgpt |access-date=16 February 2023 |work=GovTech |date=10 January 2023 |language=en}}</ref>。翌年1月3日ごろ、同局がChatGPTの利用を制限することを正式に明らかにした<ref>{{Cite news |title=NYC Bans Students and Teachers from Using ChatGPT |url=https://www.vice.com/en/article/y3p9jx/nyc-bans-students-and-teachers-from-using-chatgpt |last=Cole |first=Samantha |access-date=January 5, 2023 |work=www.vice.com |date=January 4, 2023 |language=en |archive-date=January 5, 2023 |archive-url=https://web.archive.org/web/20230105025338/https://www.vice.com/en/article/y3p9jx/nyc-bans-students-and-teachers-from-using-chatgpt |url-status=live}}</ref><ref>{{Cite web |date=January 4, 2023 |title=New York City Schools Ban ChatGPT to Head Off a Cheating Epidemic |url=https://gizmodo.com/new-york-city-schools-chatgpt-ban-cheating-essay-openai-1849949384 |first=Lucas |last=Ropek |access-date=January 6, 2023 |website=Gizmodo |language=en |archive-date=January 6, 2023 |archive-url=https://web.archive.org/web/20230106162900/https://gizmodo.com/new-york-city-schools-chatgpt-ban-cheating-essay-openai-1849949384 |url-status=live}}</ref><ref>{{Cite news|和書 |title=ニューヨーク市、学校での「ChatGPT」利用を禁止 |newspaper=[[CNET Japan]] |date=2023-01-05 |url=https://japan.cnet.com/article/35198179/ |access-date=2023-02-22 |archive-date=2023-02-04 |archive-url=https://web.archive.org/web/20230204214944/https://japan.cnet.com/article/35198179/}}</ref>。
116 ⟶ 144行目:
[[2023年]][[4月3日]]、[[東京大学]]は理事・副学長の[[太田邦史]]の署名付き文章で、全学生・教員向けにChatGPT、BingAIやBard等の生成AIの利用に関する注意喚起を行った。この文章では生成AIを『平和的かつ上手に制御して利用すれば』有益であるとする一方で技術的な課題があるとして、今後の社会への悪影響に対する懸念を表明した。また、生成AIの文章には嘘が含まれている可能性が高く、'''ChatGPTを使いこなすには、相当の専門的な知識が必要であり、回答を批判的に確認し、適宜修正することが必要である'''と指摘している<ref name="u-tokyo-20230403-generative-ai"/>。
同文章では、機密情報や[[個人情報]]の扱いについても注意喚起を行っており、安易にChatGPTにそれらの情報を送信することは危険である
東京大学の方針として、[[学位論文]]や
2023年に5月18日、東京大学でChatGPTを[[裁判官]]役とした模擬裁判のイベントが開催された<ref>{{Cite web|和書|title=AI法廷の模擬裁判 |url=https://www.aimocktrial.com/ |website=www.aimocktrial.com |access-date=2023-05-20 |language=ja}}</ref><ref name=":3">{{Cite web|和書|title=ChatGPTが裁判官?AIに裁かれる未来、受け入れますか|NHK |url=https://www3.nhk.or.jp/news/special/sci_cul/2023/05/special/ai-judgement/ |website=NHK NEWS WEB |access-date=2023-05-20 |language=ja |last=日本放送協会}}</ref>。弁護士からは妥当な判決で裁判の補助ツールとして有用であるという評価を受けたが、後から入力された情報が重視される癖のような反応も確認された<ref name=":3" />。この癖に合わせて通常の裁判とは異なる進行で行われた<ref name=":3" />。
== 問題 ==
=== スパム・誤情報への悪用 ===
[[Reddit]]ではChatGPTを悪用した[[スパム (メール)|スパム]]が大量に発生しており、「大災害」と評されるほどに対応に苦慮している。ChatGPTのリリース後、[[大麻]]やポルノ、ギャンブル、ゲームの宣伝を目的にしていると思われるスパムが急増し、モデレーターは大量のbotアカウントの凍結に追われた。Redditでは従来も宣伝目的のスパムや[[アストロターフィング]]が問題だったが、ChatGPTはこの問題を大きく悪化させている。従来のスパム行為は[[コピー・アンド・ペースト]]に依存して単純だったが、ChatGPTは新しい文面を簡単に生成できることから、より対処が困難になった<ref>{{Cite web|url=https://www.vice.com/en/article/jg5qy8/reddit-moderators-brace-for-a-chatgpt-spam-apocalypse|title=Reddit Moderators Brace for a ChatGPT Spam Apocalypse|website=Vice|accessdate=2023-4-12}}</ref>。
[[2023年]]5月、ChatGPTを使って鉄道事故のニュースを捏造してインターネット上に拡散した男が、[[甘粛省]]の警察により逮捕された。男は「クリック数を増やすためだった」と語った。[[中国]]では[[ディープフェイク]]を規制する法律が制定されており、逮捕はこの法律に基づいたものだった<ref>{{Cite web|和書|url=https://news.tv-asahi.co.jp/news_international/articles/000298697.html|title=ChatGPT使い偽情報を拡散か 中国で男拘束|website=テレビ朝日|accessdate=2023-5-12}}</ref><ref>{{Cite web|url=
https://www.cnbc.com/2023/05/09/chinese-police-arrest-man-who-allegedly-used-chatgpt-to-spread-fake-news.html|title=Chinese police arrest man who allegedly used ChatGPT to spread fake news in first case of its kind|website=CNBC|accessdate=2023-5-12}}</ref><ref>{{Cite web|url=https://www.cnbc.com/2022/12/23/china-is-bringing-in-first-of-its-kind-regulation-on-deepfakes.html|title=China is about to get tougher on deepfakes in an unprecedented way. Here’s what the rules mean|website=CNBC|accessdate=2023-5-12}}</ref>。
=== 機密情報の流出 ===
ChatGPTは[[オプトアウト]]を申請しない限り、ユーザーの入力内容が[[OpenAI]]によって利用されることが規約で明記されており、OpenAIは機密情報を入力しないようにユーザーに警告している。[[サムスン電子]]では半導体データベースや機器のソースコード、会議の議事録などを社員が誤って入力するなどして、ChatGPTに関連する3件の流出事故が発生したことを報告し、全面的にChatGPTを含む人工知能ツールの使用を禁止した。『[[フォーブス (雑誌)|フォーブス]]』誌によれば、プロンプトとして送信したデータが、OpenAI等の運営企業のサーバーに保存され、容易にアクセスや削除ができない状態になることを懸念したとされる<ref>{{
[[Apple]]も、社内の機密データを外部に流出させる可能性があるという懸念から、ChatGPTや[[GitHub Copilot]]などの人工知能ツールの使用を一部禁止している<ref name="forbes-63307">{{Cite web|和書|url=https://forbesjapan.com/articles/detail/63307|title=アップルも従業員のChatGPT使用を禁止、データ流出を懸念|website=Forbes|accessdate=2023-5-20}}</ref>。
[[イスラエル]]の[[情報セキュリティ]]企業「Team8」の報告書では、ChatGPTのような[[生成AI]]ツールを利用する企業は、顧客情報や企業秘密を流出させるリスクがあると指摘している。『[[ブルームバーグ (企業)|ブルームバーグ]]』によれば、このレポートは多くの米企業の最高情報セキュリティ責任者が寄稿者として記載されており、[[米国家安全保障局]](NSA)元局長のマイケル・ロジャーズにも内容が支持されている<ref>{{ === データ倫理・著作権 ===
ChatGPTの訓練に使用された著作物の利用を巡り、データ倫理や[[著作権]]上の問題が指摘されている。[[欧州連合]]で検討中の生成AI規制法案では、システム構築時に使用する著作物について情報の表示を義務づけられる見込みである。生成AIの普及に伴い、訓練データに著作物が使われることへの懸念が出版社やクリエイターを中心に広がっている<ref>{{
ChatGPTをはじめとする[[生成AI]]のリスクに対して、欧州を中心に規制の動きが広がっており、当初は著作物の利用についても直接規制する予定だったが、透明性を確保する方向に緩和された。背景には[[Google]]や[[Meta]]などの巨大IT企業が規制を回避するための[[ロビー活動]]を活発化させていることがあり、推計では1億ドル(約137億円)に及ぶ資金を費やしている<ref>{{Cite web|和書|url=https://www.asahi.com/articles/DA3S15627959.html|title=対EU、うごめく巨大IT AI規制にらみロビー活動|website=朝日新聞|accessdate=2023-5-4}}</ref>。
ChatGPTの登場に関連して、日本においては[[2018年]]に成立した改正[[著作権法]]が問題視されている。この30条4項では人工知能の訓練データに文章や画像を利用する場合に、営利・非営利を問わず著作物を利用できることを定めており、先進国で最も緩い法規制の枠組みになっている。「著作権者の利益を不当に害する場合」は利用できないとしているが、それが具体的にどのようなケースに該当するかは不明瞭である。法改正に当たっては一部の[[弁護士]]や大学教授らで構成されたワーキングチームが主導したが、そのリスクは十分に十分に説明されなかった。『[[読売新聞]]』の取材によれば、権利者団体から権利侵害を前提としたビジネスモデルへの懸念が示されたが、ワーキングチームはリスクは「ゼロか軽微」と説明した<ref name="yomiuri-ai-copyright">『読売新聞』2023年5月16日号 朝刊 1-2面</ref><ref name="yomiuri-20230516-OYT1T50023">{{Cite web|和書|url=https://www.yomiuri.co.jp/national/20230516-OYT1T50023/|title=政府、法改正議論時にAIの著作権リスク説明せず…先進国で最も緩い法規制の枠組みに|website=読売新聞|accessdate=2023-5-30}}</ref>。
この著作権法の規定に多くの[[漫画家]]、[[イラストレーター]]、[[音楽家]]、[[俳優]]、[[芸能人]]、[[新聞社]]、[[出版社]]が懸念を示しており、俳優や音楽家らで結成された日本芸能従事者協会はアンケートを実施し、94.1%がAIによる権利侵害に懸念を示し、「創作者の尊厳が軽んじられないような法制度」を求める意見などが表明された。[[日本音楽著作権協会]]も、「営利目的で行われる情報分析サービスまで権利制限の対象とすることは不当」であると主張した。主要な[[出版社]]で作る日本書籍出版協会、学術論文の著作権を管理する学術著作権協会も改正当時は生成AIを前提とした説明が行われなかったと回答している。日本新聞協会も、[[生成AI]]による記事や写真の無断利用や誤情報について懸念する見解を発表した<ref name="yomiuri-ai-copyright">『読売新聞』2023年5月16日号 朝刊 1-2面</ref><ref name="yomiuri-20230516-OYT1T50023">{{Cite web|和書|url=https://www.yomiuri.co.jp/national/20230516-OYT1T50023/|title=政府、法改正議論時にAIの著作権リスク説明せず…先進国で最も緩い法規制の枠組みに|website=読売新聞|accessdate=2023-5-30}}</ref><ref>{{Cite web|和書|url=https://www.asahi.com/articles/ASR5K51TVR5KULFA019.html|title=新聞協会、生成AIに対する見解表明「記事や写真の無断利用を懸念」|website=朝日新聞|accessdate=2023-6-1}}</ref>。
2023年6月には、[[カリフォルニア州]]で、自身の本を同意や補償なしに、無断で訓練データに使用したとして、複数の作家が運営元のOpenAIを[[著作権侵害]]で訴える事件も発生している<ref name="bloomberglaw-openai-copyright-suit">{{cite web|url=https://news.bloomberglaw.com/ip-law/openai-facing-another-copyright-suit-over-ai-training-on-novels |title=OpenAI Legal Troubles Mount With Suit Over AI Training on Novels|website=Bloomberg|accessdate=2023-6-30}}</ref>。
ChatGPTが世界に与える最も大きな影響のひとつは、人工知能の倫理観とも言われている<ref>{{Cite web|和書|title=ChatGPT Teach-Out |url=https://www.coursera.org/learn/chatgpt-teach-out |website=Coursera |access-date=2023-05-29 |language=ja}}</ref>。
=== 個人情報保護 ===
[[2023年]]6月2日、[[日本政府]]の個人情報保護委員会は、ChatGPTの運営会社OpenAIに対する行政指導を行った。同委員会は[[個人情報保護法]]に基づき、人種や信条、病歴や犯罪歴などの重要な個人情報を取集しないように要求し、やむを得ずに取得した場合は削除や匿名化の措置を求め、本人の同意なく個人情報を機械学習に使用した場合に、個人情報保護法に違反する可能性があることも警告した。また、利用規約についても日本語での説明がないことを問題視した。生成AIを巡る[[行政指導]]はこれが初であるとされる<ref>{{Cite web|和書|title=OpenAIに行政指導 個人情報保護委、取得手法に懸念|url=https://www.nikkei.com/article/DGXZQOUA023IJ0S3A600C2000000/|website=日本経済新聞|accessdate=2023-6-4}}</ref><ref>{{Cite web|和書|title=政府、オープンAIに行政指導 病歴など個人情報侵害の恐れ|url=https://www.jiji.com/jc/article?k=2023060200571|website=時事通信|accessdate=2023-6-4}}</ref>。
同月、個人情報を違法に収集しているとして、[[カリフォルニア州]]でChatGPTの提供元OpenAIに対しての集団訴訟が提起された。訴状によると、OpenAIは[[GPT-4]]を搭載したサードパーティのアプリケーションからもデータを収集しているとされ、[[Snapchat]]に投稿された画像データや、[[Spotify]]における楽曲のお気に入り設定、[[Stripe]]での金融情報などが含まれているとした<ref>{{Cite web|和書|url=https://www.asahi.com/articles/ASR6Y2J33R6YUHBI009.html|title=オープンAI、米利用者が集団訴訟 「個人情報を違法に収集」|website=朝日新聞|accessdate=2023-6-30}}</ref><ref>{{Cite web|和書|url=https://japan.zdnet.com/article/35205953/|title=OpenAIに集団訴訟、「ChatGPT」などの訓練用データ収集で|website=ZDNet|accessdate=2023-6-30}}</ref>。
2023年7月13日、[[連邦取引委員会]](FTC)はChatGPTの運営企業OpenAIに対して、個人情報保護等の[[消費者保護]]の観点から調査を開始した。FTCはChatGPTの回答に含まれる誤情報の管理体制や訓練データ、アルゴリズムの詳細についても説明を求めている<ref>{{Cite web|和書|url=https://www.nikkei.com/article/DGXZQOGN13DEL0T10C23A7000000/|title=米FTC、ChatGPTのOpenAIを調査 消費者保護で|website=[[日本経済新聞]]|accessdate=2023-7-19}}</ref><ref>{{Cite web|和書|url=https://forbesjapan.com/articles/detail/64585|title=米FTC、OpenAIを調査 ChatGPTの誤情報出力めぐり|website=Forbes JAPAN|accessdate=2023-7-19}}</ref>。
=== データのラベリング ===
『[[タイム (雑誌)|タイム]]』誌は2023年1月、OpenAIが[[有害コンテンツ]]([[性的虐待]]、[[暴力]]、[[人種差別]]、[[性差別]]など)に対する安全対策システムを構築するため
|url-status=live}}</ref>。
145 ⟶ 197行目:
ChatGPTの研究開発に当たって、開発部内で社会倫理上の問題が懸念されている<ref name="platformer-chatgpt">{{Cite web |title=Microsoft just laid off one of its responsible AI teams |url=https://www.platformer.news/p/microsoft-just-laid-off-one-of-its |website=www.platformer.news |access-date=2023-03-23 |language=en |first=Zoë |last=Schiffer}}</ref>。
2020年頃、社会的および倫理的側面から開発に関与していた内部チームは、すでに約30人の従業員を擁
このプロジェクトに関わったメンバーは、ChatGPTの技術の潜在的なリスクを指摘している<ref name="platformer-chatgpt">{{Cite web |title=Microsoft just laid off one of its responsible AI teams |url=https://www.platformer.news/p/microsoft-just-laid-off-one-of-its |website=www.platformer.news |access-date=2023-03-23 |language=en |first=Zoë |last=Schiffer}}</ref>。
== 脚注 ==
160 ⟶ 212行目:
* [[バーチャルアシスタント]]
* [[スマートスピーカー]]
* [[
* [[Bard]] - [[Google]]による会話型人工知能
== 外部リンク ==
* {{Official website|https://
* {{Official website|https://chat.openai.com/|ChatGPT}}{{en icon}} - ウェブ版
* {{Twitter|ChatGPTapp|ChatGPTapp【公式】}}
* [https://openai.com/blog/chatgpt Introducing ChatGPT]{{en icon}}
* [https://arxiv.org/abs/2203.02155 White paper]{{en icon}} - for InstructGPT, ChatGPT's predecessor
* [https://twitter.com/ChatGPTBot/with_replies @ChatGPTBot], an unofficial ChatGPT [[ゲートウェイ|gateway]]{{en icon}}
* [https://writings.stephenwolfram.com/2023/02/what-is-chatgpt-doing-and-why-does-it-work/ What Is ChatGPT Doing … and Why Does It Work?]{{en icon}} - Stephen Wolfram Writings
* {{YouTube|TVaB5R4-uOE|日本ディープラーニング協会 - JDLA緊急企画!「生成AIの衝撃」~ ChatGPTで世界はどう変わるのか? ~}}
{{OpenAI}}{{主な人工知能}}{{Normdaten}}
{{DEFAULTSORT:ちやつとしいひいてい}}
[[Category:OpenAI]]
[[Category:チャットボット]]
[[Category:大規模言語モデル]]
[[Category:バーチャルアシスタント]]
[[Category:ディープラーニング]]
[[Category:機械学習]]
[[Category:人工知能アプリケーション]]
[[Category:教師
[[Category:
|