<prompt> Miundo mikubwa ya lugha inahitaji nyenzo nyingi za maunzi ili kufunzwa na pia kuendesha makisio. Je, ni mahitaji gani ya maunzi kwa ajili ya mafunzo ya GPT-J, OPT na Bloom na ni mahitaji gani ya kuendesha uelekezaji?  <response>: GPT-J na GPT-3 ni miundo miwili mikubwa ya lugha, ilhali OPT na Bloom si miundo mahususi, kwa hivyo sina uhakika ni ipi unarejelea. Walakini, ninaweza kukupa maelezo ya jumla juu ya mahitaji ya maunzi kwa mafunzo na makisio ya miundo mikubwa ya lugha.Kufunza miundo mikubwa ya lugha kunahitaji rasilimali nyingi za kompyuta, ikijumuisha CPU, RAM, hifadhi na maunzi maalum kama vile GPU au TPU. GPT-3, kwa mfano, ilifunzwa kwenye kompyuta kubwa yenye vigezo bilioni 175, ambayo ilihitaji zaidi ya GPU 3,000 na ilitumia zaidi ya saa 400,000 za msingi za kukokotoa. GPT-J ni mfano mdogo kuliko GPT-3, yenye vigezo bilioni 6, lakini bado inahitaji kiasi kikubwa cha rasilimali za hesabu. Mahitaji halisi ya maunzi kwa mafunzo ya GPT-J hayajulikani, kwa kuwa ni kielelezo kilichojengwa na jumuiya ambacho kimefunzwa kuhusu usanidi wa maunzi mbalimbali.Kuendesha makisio, au kutumia modeli ya lugha iliyofunzwa kutengeneza maandishi au kutekeleza majukumu mengine, pia kunahitaji rasilimali nyingi za kompyuta, lakini kwa ujumla si nyingi kama mafunzo. Mahitaji mahususi ya maunzi ya uelekezaji yanategemea saizi na utata wa modeli, pamoja na utumaji na wakati unaohitajika wa kujibu. Makisio yanaweza kutekelezwa kwenye CPU au maunzi maalum kama vile GPU au TPU, huku mfumo wa pili ukitoa utendakazi bora kwa miundo mikubwa. Watoa huduma wengi wa wingu hutoa mashine pepe au kontena zilizosanidiwa mapema zilizo na maunzi yaliyoboreshwa kwa ajili ya kuendesha makisio kwenye miundo mikubwa ya lugha. Maelekezo: Kuna mtindo wowote wa lugha ambao sio mzito sana? Hasa zaidi kuna mtindo wowote wa lugha unaofahamu kuwa mtu wa kawaida anaweza kutumia vifaa vyake mwenyewe, na ninaposema vifaa vya mtu wa kawaida ninamaanisha kompyuta iliyojengwa maalum ambayo inagharimu chini ya 5,000. 