{"id":3765,"date":"2021-06-24T18:22:54","date_gmt":"2021-06-24T18:22:54","guid":{"rendered":"https:\/\/tourrion.com\/?p=61"},"modified":"2026-07-04T16:41:05","modified_gmt":"2026-07-04T16:41:05","slug":"gpt-3","status":"publish","type":"post","link":"https:\/\/somniantes.com\/?p=3765","title":{"rendered":"GPT-3"},"content":{"rendered":"\n<figure class=\"wp-block-embed is-type-video is-provider-youtube wp-block-embed-youtube wp-embed-aspect-16-9 wp-has-aspect-ratio\"><div class=\"wp-block-embed__wrapper\">\n<iframe loading=\"lazy\" title=\"GPT-3 Demo: New AI Algorithm Changes How We Interact With Technology\" width=\"760\" height=\"428\" src=\"https:\/\/www.youtube.com\/embed\/8V20HkoiNtc?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe>\n<\/div><\/figure>\n\n\n\n<p class=\"wp-block-paragraph\">GPT-3 Algorithm (Generative Pre-trained Transformer 3)<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">\u0e40\u0e1b\u0e47\u0e19\u0e2d\u0e31\u0e25\u0e01\u0e2d\u0e23\u0e35\u0e17\u0e36\u0e21\u0e42\u0e21\u0e40\u0e14\u0e25\u0e17\u0e32\u0e07\u0e14\u0e49\u0e32\u0e19\u0e20\u0e32\u0e29\u0e32 \u0e17\u0e35\u0e48\u0e40\u0e23\u0e35\u0e22\u0e01\u0e27\u0e48\u0e32 an autoregression generative language model (\u0e42\u0e21\u0e40\u0e14\u0e25\u0e01\u0e32\u0e23\u0e2a\u0e23\u0e49\u0e32\u0e07\u0e20\u0e32\u0e29\u0e32\u0e14\u0e49\u0e27\u0e22\u0e2a\u0e21\u0e01\u0e32\u0e23\u0e16\u0e14\u0e16\u0e2d\u0e22\u0e41\u0e1a\u0e1a\u0e2d\u0e31\u0e15\u0e42\u0e19\u0e21\u0e31\u0e15\u0e34) \u0e17\u0e35\u0e48\u0e1e\u0e31\u0e12\u0e19\u0e32\u0e02\u0e36\u0e49\u0e19\u0e42\u0e14\u0e22 OpenAI \u0e1a\u0e23\u0e34\u0e29\u0e31\u0e17\u0e27\u0e34\u0e08\u0e31\u0e22\u0e1b\u0e31\u0e0d\u0e0d\u0e32\u0e1b\u0e23\u0e30\u0e14\u0e34\u0e29\u0e10\u0e4c\u0e0b\u0e36\u0e48\u0e07\u0e21\u0e35\u0e2a\u0e33\u0e19\u0e31\u0e01\u0e07\u0e32\u0e19\u0e43\u0e2b\u0e0d\u0e48\u0e2d\u0e22\u0e39\u0e48\u0e43\u0e19\u0e0b\u0e32\u0e19 \u0e1f\u0e23\u0e32\u0e19\u0e0b\u0e34\u0e2a\u0e42\u0e01<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">GPT-3 \u0e40\u0e1b\u0e47\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u0e17\u0e32\u0e07\u0e20\u0e32\u0e29\u0e32\u0e43\u0e19\u0e23\u0e38\u0e48\u0e19\u0e17\u0e35\u0e48 3 \u0e1e\u0e31\u0e12\u0e19\u0e32\u0e15\u0e48\u0e2d\u0e21\u0e32\u0e08\u0e32\u0e01 GPT-2 \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23\u0e40\u0e25\u0e35\u0e22\u0e19\u0e41\u0e1a\u0e1a\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49\u0e20\u0e32\u0e29\u0e32\u0e02\u0e2d\u0e07\u0e21\u0e19\u0e38\u0e29\u0e22\u0e4c \u0e0b\u0e36\u0e48\u0e07 GPT-3 \u0e40\u0e1b\u0e47\u0e19\u0e2d\u0e31\u0e25\u0e01\u0e2d\u0e23\u0e34\u0e17\u0e36\u0e48\u0e21\u0e17\u0e35\u0e48\u0e2a\u0e32\u0e21\u0e32\u0e23\u0e16\u0e2a\u0e23\u0e49\u0e32\u0e07\u0e1b\u0e23\u0e30\u0e42\u0e22\u0e04\u0e17\u0e35\u0e48\u0e2a\u0e21\u0e1a\u0e39\u0e23\u0e13\u0e4c\u0e02\u0e36\u0e49\u0e19\u0e21\u0e32\u0e44\u0e14\u0e49 \u0e08\u0e32\u0e01\u0e04\u0e33\u0e2b\u0e23\u0e37\u0e2d\u0e04\u0e33\u0e2a\u0e31\u0e48\u0e07\u0e17\u0e35\u0e48\u0e44\u0e14\u0e49\u0e23\u0e31\u0e1a\u0e2d\u0e34\u0e19\u0e1e\u0e38\u0e14\u0e40\u0e02\u0e49\u0e32\u0e44\u0e1b (\u0e41\u0e21\u0e49\u0e27\u0e48\u0e32\u0e22\u0e31\u0e07\u0e40\u0e1b\u0e47\u0e19\u0e20\u0e32\u0e29\u0e32\u0e2d\u0e31\u0e07\u0e01\u0e24\u0e29\u0e40\u0e17\u0e48\u0e32\u0e19\u0e31\u0e49\u0e19) \u0e0b\u0e36\u0e48\u0e07\u0e08\u0e32\u0e01\u0e01\u0e32\u0e23\u0e16\u0e39\u0e01\u0e19\u0e33\u0e44\u0e1b\u0e43\u0e0a\u0e49\u0e07\u0e32\u0e19\u0e08\u0e23\u0e34\u0e07 \u0e1e\u0e1a\u0e27\u0e48\u0e32 GPT-3 \u0e2a\u0e23\u0e49\u0e32\u0e07\u0e1b\u0e23\u0e30\u0e42\u0e22\u0e04\u0e44\u0e14\u0e49\u0e17\u0e38\u0e01\u0e0a\u0e19\u0e34\u0e14 \u0e17\u0e31\u0e49\u0e07\u0e01\u0e32\u0e23\u0e40\u0e02\u0e35\u0e22\u0e19\u0e1a\u0e17\u0e04\u0e27\u0e32\u0e21\u200b\u0e40\u0e02\u0e35\u0e22\u0e19 \u0e01\u0e32\u0e23\u0e40\u0e02\u0e35\u0e22\u0e19\u0e42\u0e1b\u0e23\u0e41\u0e01\u0e23\u0e21\u0e42\u0e04\u0e4a\u0e14 \u0e01\u0e32\u0e23\u0e15\u0e2d\u0e1a\u0e04\u0e33\u0e16\u0e32\u0e21\u0e40\u0e09\u0e1e\u0e32\u0e30\u0e17\u0e32\u0e07\u0e0b\u0e36\u0e48\u0e07\u0e40\u0e04\u0e22\u0e15\u0e49\u0e2d\u0e07\u0e43\u0e0a\u0e49\u0e1c\u0e39\u0e49\u0e40\u0e0a\u0e35\u0e22\u0e27\u0e0a\u0e32\u0e0d \u0e40\u0e1e\u0e23\u0e32\u0e30\u0e02\u0e49\u0e2d\u0e21\u0e39\u0e25\u0e0a\u0e38\u0e14\u0e2b\u0e19\u0e36\u0e48\u0e07\u0e02\u0e2d\u0e07\u0e01\u0e32\u0e23\u0e2a\u0e23\u0e49\u0e32\u0e07 GPT-3&nbsp; \u0e21\u0e32\u0e08\u0e32\u0e01 wikipedia, common crawl<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">GPT-3 \u0e21\u0e35\u0e15\u0e31\u0e27\u0e41\u0e1b\u0e23 (parameters) \u0e21\u0e32\u0e01\u0e16\u0e36\u0e07 175 \u0e1e\u0e31\u0e19\u0e25\u0e49\u0e32\u0e19\u0e15\u0e31\u0e27\u0e41\u0e1b\u0e23 \u0e0b\u0e36\u0e48\u0e07\u0e21\u0e32\u0e01\u0e01\u0e27\u0e48\u0e32 GPT-2 \u0e0b\u0e36\u0e48\u0e07\u0e21\u0e35 1.5 \u0e1e\u0e31\u0e19\u0e25\u0e49\u0e32\u0e19\u0e15\u0e31\u0e27\u0e41\u0e1b\u0e23,&nbsp; Microsoft\u2019s Turing NLG \u0e0b\u0e36\u0e48\u0e07\u0e21\u0e35 17 \u0e1e\u0e31\u0e19\u0e25\u0e49\u0e32\u0e19\u0e15\u0e31\u0e27\u0e41\u0e1b\u0e23 \u0e17\u0e33\u0e43\u0e2b\u0e49\u0e1b\u0e23\u0e30\u0e42\u0e22\u0e04\u0e17\u0e35\u0e48\u0e16\u0e39\u0e01\u0e2a\u0e23\u0e49\u0e32\u0e07\u0e02\u0e36\u0e49\u0e19\u0e42\u0e14\u0e22 GPT-3 \u0e19\u0e31\u0e49\u0e19\u0e22\u0e32\u0e01\u0e17\u0e35\u0e48\u0e08\u0e30\u0e41\u0e22\u0e01\u0e2d\u0e2d\u0e01\u0e44\u0e14\u0e49\u0e27\u0e48\u0e32\u0e40\u0e01\u0e34\u0e14\u0e08\u0e32\u0e01\u0e04\u0e2d\u0e21\u0e1e\u0e34\u0e27\u0e40\u0e15\u0e2d\u0e23\u0e4c\u0e2b\u0e23\u0e37\u0e2d\u0e27\u0e48\u0e32\u0e21\u0e19\u0e38\u0e29\u0e22\u0e4c<\/p>\n\n\n\n<p class=\"wp-block-paragraph\">GPT-3 \u0e40\u0e1b\u0e34\u0e14\u0e41\u0e19\u0e30\u0e19\u0e33\u0e15\u0e31\u0e27\u0e2d\u0e22\u0e48\u0e32\u0e07\u0e40\u0e1b\u0e47\u0e19\u0e17\u0e32\u0e07\u0e01\u0e32\u0e23\u0e43\u0e19\u0e40\u0e14\u0e37\u0e2d\u0e19\u0e1e\u0e24\u0e29\u0e20\u0e32\u0e04\u0e21 2020 \u0e41\u0e15\u0e48\u0e27\u0e48\u0e32\u0e44\u0e21\u0e48\u0e44\u0e14\u0e49\u0e40\u0e1b\u0e34\u0e14\u0e43\u0e2b\u0e49\u0e01\u0e31\u0e1a\u0e19\u0e31\u0e01\u0e1e\u0e31\u0e12\u0e19\u0e32\u0e42\u0e1b\u0e23\u0e41\u0e01\u0e23\u0e21\u0e15\u0e31\u0e27\u0e44\u0e1b\u0e40\u0e02\u0e49\u0e32\u0e43\u0e0a\u0e49\u0e07\u0e32\u0e19 \u0e41\u0e25\u0e30\u0e21\u0e35\u0e40\u0e1e\u0e35\u0e22\u0e07\u0e41\u0e15\u0e48 Microsoft \u0e40\u0e17\u0e48\u0e32\u0e19\u0e31\u0e49\u0e19\u0e17\u0e35\u0e48\u0e44\u0e14\u0e49\u0e2a\u0e34\u0e17\u0e18\u0e34\u0e43\u0e19\u0e01\u0e32\u0e23\u0e40\u0e02\u0e49\u0e32\u0e16\u0e36\u0e07\u0e0b\u0e2d\u0e2a\u0e42\u0e04\u0e4a\u0e15<\/p>\n","protected":false},"excerpt":{"rendered":"<p>GPT-3 Algorithm (Generative Pre-trained Transformer 3) \u0e40\u0e1b\u0e47\u0e19\u0e2d\u0e31\u0e25\u0e01\u0e2d\u0e23\u0e35\u0e17\u0e36\u0e21\u0e42\u0e21\u0e40\u0e14\u0e25\u0e17\u0e32\u0e07\u0e14\u0e49\u0e32\u0e19\u0e20\u0e32\u0e29\u0e32 \u0e17\u0e35\u0e48\u0e40\u0e23\u0e35\u0e22\u0e01\u0e27\u0e48\u0e32 an autoregression generative language model (\u0e42\u0e21\u0e40\u0e14\u0e25\u0e01\u0e32\u0e23\u0e2a\u0e23\u0e49\u0e32\u0e07\u0e20\u0e32\u0e29\u0e32\u0e14\u0e49\u0e27\u0e22\u0e2a\u0e21\u0e01\u0e32\u0e23\u0e16\u0e14\u0e16\u0e2d\u0e22\u0e41\u0e1a\u0e1a\u0e2d\u0e31\u0e15\u0e42\u0e19\u0e21\u0e31\u0e15\u0e34) \u0e17\u0e35\u0e48\u0e1e\u0e31\u0e12\u0e19\u0e32\u0e02\u0e36\u0e49\u0e19\u0e42\u0e14\u0e22 OpenAI \u0e1a\u0e23\u0e34\u0e29\u0e31\u0e17\u0e27\u0e34\u0e08\u0e31\u0e22\u0e1b\u0e31\u0e0d\u0e0d\u0e32\u0e1b\u0e23\u0e30\u0e14\u0e34\u0e29\u0e10\u0e4c\u0e0b\u0e36\u0e48\u0e07\u0e21\u0e35\u0e2a\u0e33\u0e19\u0e31\u0e01\u0e07\u0e32\u0e19\u0e43\u0e2b\u0e0d\u0e48\u0e2d\u0e22\u0e39\u0e48\u0e43\u0e19\u0e0b\u0e32\u0e19 \u0e1f\u0e23\u0e32\u0e19\u0e0b\u0e34\u0e2a\u0e42\u0e01 GPT-3 \u0e40\u0e1b\u0e47\u0e19\u0e42\u0e21\u0e40\u0e14\u0e25\u0e17\u0e32\u0e07\u0e20\u0e32\u0e29\u0e32\u0e43\u0e19\u0e23\u0e38\u0e48\u0e19\u0e17\u0e35\u0e48 3 \u0e1e\u0e31\u0e12\u0e19\u0e32\u0e15\u0e48\u0e2d\u0e21\u0e32\u0e08\u0e32\u0e01 GPT-2 \u0e2a\u0e33\u0e2b\u0e23\u0e31\u0e1a\u0e01\u0e32\u0e23\u0e40\u0e25\u0e35\u0e22\u0e19\u0e41\u0e1a\u0e1a\u0e01\u0e32\u0e23\u0e43\u0e0a\u0e49\u0e20\u0e32\u0e29\u0e32\u0e02\u0e2d\u0e07\u0e21\u0e19\u0e38\u0e29\u0e22\u0e4c \u0e0b\u0e36\u0e48\u0e07 &hellip;<\/p>\n","protected":false},"author":2,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_post_was_ever_published":false},"categories":[28],"tags":[],"class_list":["post-3765","post","type-post","status-publish","format-standard","hentry","category-natural-language"],"jetpack_featured_media_url":"","jetpack_sharing_enabled":true,"_links":{"self":[{"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/posts\/3765","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/users\/2"}],"replies":[{"embeddable":true,"href":"https:\/\/somniantes.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=3765"}],"version-history":[{"count":1,"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/posts\/3765\/revisions"}],"predecessor-version":[{"id":7979,"href":"https:\/\/somniantes.com\/index.php?rest_route=\/wp\/v2\/posts\/3765\/revisions\/7979"}],"wp:attachment":[{"href":"https:\/\/somniantes.com\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=3765"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/somniantes.com\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=3765"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/somniantes.com\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=3765"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}