?¼ÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆ?ΪÄãÌṩ¼ÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆAPP°²×¿°æÏÂÔØ£¬£¬£¬£¬£¬ÀúÊ·°æ±¾¡¢¾É°æÏÂÔØ£¬£¬£¬£¬£¬Éó²é×îмÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆÊÖ»ú°æÏÈÈÝ¡¢Ó¦ÓýØÍ¼¡¢ÍøÓÑ̸ÂÛ£¬£¬£¬£¬£¬Àû±ã¿ì½ÝµÄ½«°²×¿°æ¼ÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆÓ¦ÓÃÃâ·ÑÏÂÔØµ½ÊÖ»ú¡£¡£¡£¡£¡£
ÊÇÒ»¿î½âÃÕÊÖÓΣ¬£¬£¬£¬£¬ÓÎÏ·ÓµÓÐѰÕÒ£¬£¬£¬£¬£¬ËÑË÷£¬£¬£¬£¬£¬ÊӲ죬£¬£¬£¬£¬æÒÏ·£¬£¬£¬£¬£¬Ì½Ë÷µÈµÈ¸»ºñÍæ·¨£¬£¬£¬£¬£¬¿ÉÒÔ¸øÓèÍæ¼Ò³¬°ôµÄ½âÃÕÓÎÏ·ÌåÑ飬£¬£¬£¬£¬½Ó´ýǰÀ´ÏÂÔØË¬Íæ¡£¡£¡£¡£¡£
ÊÇÒ»¿îµ¹ÒûÁϹý¹ØÆ½ºâСÓÎÏ·£¬£¬£¬£¬£¬Íæ¼Ò²Ù¿ØÒûÁÏÆ¿£¬£¬£¬£¬£¬¸øÅźõIJ£Á§±µ¹ÒûÁÏ£¬£¬£¬£¬£¬Íæ¼ÒÐèҪ׼ȷµÄÃé×¼±¿Ú£¬£¬£¬£¬£¬²Ù×÷ʱºÜÄ¥Á·Íæ¼ÒµÄƽºâÄÜÁ¦ºÍ·´Ó¦ÄÜÁ¦¡£¡£¡£¡£¡£ÄãÄÜͨ¹ýÌôÕ½Â𣿣¿£¿£¿£¿£¿£¿
ÊÇÒ»¿îÉúÑÄÓë̽Ë÷¾ø¾³ÌìϵÄÓÎÏ·£¬£¬£¬£¬£¬ËüÈÃÄãÉíÁÙÆäÌïµØ¸ÐÊܵ½ÁËÄ©ÈÕÉúÑĵÄÎÞ¾¡¼èÄѺÍɥʬµÄ¿Ö²À¡£¡£¡£¡£¡£Ä㽫×÷ΪÐÒ´æÕß½ÒÆÆ±»ÕÚ±ÎÔÚÃÔÎí֮ϵÄÕæÏ࣬£¬£¬£¬£¬ÒªÕ½¶·¾¿¾¹¡£¡£¡£¡£¡£
ÊÇÒ»¿îºÃÍæµÄÐÝÏÐÒæÖÇÊÖÓΣ¬£¬£¬£¬£¬ÔÚÆæ»ÃµÄ¿¨Í¨ÌìÏÂÖÐÍæ¼Ò½«ºÍ²î±ðµÄСͬ°éÒ»ÆðÀ´¾ÙÐÐðÏÕÌôÕ½£¬£¬£¬£¬£¬Òâ¼ûÒâÒåµÄÄÚÈÝ´øÀ´Á˶àÖÖ»îÁ¦£¬£¬£¬£¬£¬¼ÓÈëÖÖÖÖÒâ¼ûÒâÒåµÄÔ˶¯À´¾ÙÐÐðÏÕ°É£¬£¬£¬£¬£¬¿ìÀ´¼ÓÈëÎÒÃÇ£¡
ÊÇÒ»¿îÊ®·ÖÓÐȤµÄÐÝÏд³¹ØÓÎÏ·£¬£¬£¬£¬£¬ÓÎÏ·ÖпÉÒÔÆ¾Ö¤Ï²»¶Ñ¡ÔñģʽÌôÕ½£¬£¬£¬£¬£¬¿ÉÒÔÓëÖ¿ÓÑһͬ¼ÓÈëµ½ÏàÖúµÄ¹Ø¿¨ÖУ¬£¬£¬£¬£¬ÆäÖлáÓÐÐí¶àÐèÒªÅäºÏµÄʹÃü¿ÉÒÔÍê³É£¬£¬£¬£¬£¬¿ÉÒÔÍøÂçµ½ÖÖÖÖ¸÷ÑùµÄµÀ¾ß´³¹Ø£¬£¬£¬£¬£¬È¥ÏíÊÜÿһ¸ö´Ì¼¤µÄÌôÕ½¡£¡£¡£¡£¡£
ÊÇÒ»¿îÈ«ÐÂÍæ·¨µÄÕ½ÂÔËþ·ÀðÏÕ´³¹ØÊÖÓΣ¬£¬£¬£¬£¬Îû˧´óÂÒ¶·ÓÎÏ·ÈÚºÏÁ˶àÖÖÍæ·¨ÔªËØ£¬£¬£¬£¬£¬¿ÉÒÔÉý¼¶ÎäÆ÷×°±¸£¬£¬£¬£¬£¬°²ÅÅ×îÇ¿·ÀÓùÕóÈÝ£¬£¬£¬£¬£¬ÔÚÕùÇÀÍÁµØµÄʱ¼äÕ¼ÓÐÓÅÊÆ¡£¡£¡£¡£¡£
2026 Äê 2 Ô 21 ¼ÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆÈÕ£¬£¬£¬£¬£¬Ò»¼ÒÃûΪ Taalas µÄоƬÊ×´´¹«Ë¾Õýʽ½Ò¿ªÃæÉ´£¬£¬£¬£¬£¬Ðû²¼ÁËËüµÄµÚÒ»¿î²úÆ·£ºÒ»¿Å½« Meta µÄ Llama 3.1 8B ´óÓïÑÔÄ£×ÓÏÕЩÍêÕû¡°¿Ì½ø¡±¹èƬµÄÍÆÀíоƬ HC1¡£¡£¡£¡£¡£Æ¾Ö¤¸Ã¹«Ë¾Ðû²¼µÄÊý¾Ý£¬£¬£¬£¬£¬Õâ¿ÅоƬÔÚµ¥Óû§³¡¾°Ï¿ÉÒÔÅܵ½ 17,000 tokens/s µÄÊä³öËÙÂÊ£¬£¬£¬£¬£¬Ô¼ÄªÊÇÏÖÔÚÊÐÃæÉÏ×î¿ì¾ºÆ· Cerebras µÄ½ü 9 ±¶£¬£¬£¬£¬£¬ÊÇ Nvidia Blackwell ¼Ü¹¹ GPU µÄ½ü 50 ±¶¡£¡£¡£¡£¡£¹¹½¨±¾Ç®¾Ý³ÆÖ»ÓÐÒ»ÂÉ GPU ¼Æ»®µÄ¶þÊ®·ÖÖ®Ò»£¬£¬£¬£¬£¬¹¦ºÄµÍÒ»¸öÊýÄ¿¼¶¡£¡£¡£¡£¡£
ͼØTaalasHC1£¨ÈªÔ´£ºTaalas£©
²»¹ýÕâ¿ÅоƬµÄ¾ÖÏÞÒ²ºÜÊÇÏÔ×Å£¬£¬£¬£¬£¬ÄǾÍÊÇËüÖ»ÄÜÅÜ Llama 3.1 8B¡£¡£¡£¡£¡£ÒªÏë»»¸öÄ£×Ó£¿£¿£¿£¿£¿£¿£¿¾ÍÖ»ÄÜÔÙÔìÒ»¿ÅоƬ¡£¡£¡£¡£¡£
ÕâÊÇ AI оƬÐÐÒµÆù½ñΪֹ×½øµÄרÓû¯ÊµÑ飬£¬£¬£¬£¬Ã»ÓÐÖ®Ò»¡£¡£¡£¡£¡£
Ä¿½ñÖ÷Á÷µÄÍÆÀí°²ÅÅÒÀÀµ GPU£¬£¬£¬£¬£¬ÓÈÆäÊÇ Nvidia µÄ H100/H200 ºÍ×îÐ嵀 Blackwell ϵÁС£¡£¡£¡£¡£GPU µÄÓÅÊÆÔÚÓÚͨÓÃÐԺͳÉÊìµÄÈí¼þÉú̬£¬£¬£¬£¬£¬µ«ËüµÄ¼Ü¹¹×ÔÈ»±£´æÒ»¸öÆ¿¾±£ºÅÌË㵥λºÍ´æ´¢µ¥Î»ÊÇÊèÉ¢µÄ¡£¡£¡£¡£¡£Ä£×ӵIJÎÊý´æ´¢ÔÚ HBM£¨High Bandwidth Memory£¬£¬£¬£¬£¬¸ß´ø¿íÄڴ棩ÖУ¬£¬£¬£¬£¬ÅÌËã½¹µãÿ´ÎÔËËã¶¼ÐèÒª´Ó HBM °áÔËÊý¾Ý£¬£¬£¬£¬£¬Õâ¸ö°áÔËÀú³ÌÏûºÄ´ó×ÚÄÜÁ¿ºÍʱ¼ä¡£¡£¡£¡£¡£
ΪÁË»º½âÕâ¸öÎÊÌ⣬£¬£¬£¬£¬Õû¸öÐÐÒµÔÚÏȽø·â×°¡¢3D ¶Ñµþ¡¢ÒºÀäÉ¢ÈÈ¡¢¸ßËÙ»¥ÁªµÈÆ«ÏòÉÏͶÈëÁËÖØ´óµÄ¹¤³Ì×ÊÔ´¡£¡£¡£¡£¡£Nvidia µÄ GB200 NVL72 »ú¹ñ¼¶ÏµÍ³¾ÍÊÇÕâÖÖõè¾¶µÄ¼«ÖÂÌåÏÖ£º72 ¿Å GPU ͨ¹ý NVLink »¥Áª£¬£¬£¬£¬£¬µ¥»ú¹ñ¹¦ºÄ¿¿½ü 120 kW£¬£¬£¬£¬£¬ÐèÒªÒºÀäÖ§³Ö£¬£¬£¬£¬£¬Ôì¼ÛÒÔ°ÙÍòÃÀÔª¼Æ¡£¡£¡£¡£¡£
£¨ÈªÔ´£ºTaalas£©
Taalas µÄ×ö·¨ÊǰÑÕâÌ×ÖØ´óÐÔÁ¬¸ù°Îµô¡£¡£¡£¡£¡£
ËûÃǵĽ¹µã˼Ð÷¿ÉÒÔ¹éÄÉ×ÛºÏΪÈý¸ö´Ê£ºÖÜȫרÓû¯¡¢´æËãºÏÒ»¡¢¼«¶Ë¼ò»¯¡£¡£¡£¡£¡£HC1 оƬ½ÓÄÉ Mask ROM£¨ÑÚÄ£Ö»¶Á´æ´¢Æ÷£©¹¤ÒÕ½«Ä£×ÓÈ¨ÖØÖ±½Ó±àÂëÔÚоƬµÄ½ðÊô»¥Á¬²ãÖУ¬£¬£¬£¬£¬ºÍÅÌËãÂß¼¹²´æÓÚͳһ¿é¹èƬÉÏ£¬£¬£¬£¬£¬²»ÔÙÐèÒªÍⲿ DRAM »ò HBM¡£¡£¡£¡£¡£Ð¾Æ¬Éϱ£´æÁËһС¿é SRAM£¨Static Random-Access Memory£¬£¬£¬£¬£¬¾²Ì¬Ëæ»ú´æÈ¡´æ´¢Æ÷£©£¬£¬£¬£¬£¬ÓÃÓÚ´æ·Å KV Cache£¨¼üÖµ»º´æ£¬£¬£¬£¬£¬Transformer ÍÆÀíʱ»º´æÀúÊ·×¢ÖØÁ¦ÐÅÏ¢µÄÊý¾Ý½á¹¹£©ºÍ LoRA£¨Low-Rank Adaptation£¬£¬£¬£¬£¬µÍÖÈÊÊÅ䣩΢µ÷È¨ÖØ£¬£¬£¬£¬£¬ÌṩÓÐÏÞµÄÎÞаÐÔ£¬£¬£¬£¬£¬µ«ÕûÌå¼Ü¹¹µÄ¿É±à³ÌÐÔÏÕЩΪÁã¡£¡£¡£¡£¡£
¾Ý±¨µÀ£¬£¬£¬£¬£¬HC1 »ùÓŲ́»ýµç N6 ¹¤ÒÕÖÆÔ죬£¬£¬£¬£¬Ð¾Æ¬Ãæ»ý 815 mm?£¬£¬£¬£¬£¬¿¿½ü¹âÕÖ¼«ÏÞ£¨reticle limit£©£¬£¬£¬£¬£¬µ¥¿ÅоƬ¼´¿ÉÈÝÄÉÍêÕûµÄ 8B ²ÎÊýÄ£×Ó¡£¡£¡£¡£¡£¹¦ºÄÔ¼ 250W£¬£¬£¬£¬£¬10 ¿é HC1 °å¿¨×°½øÒ»Ì¨Ð§ÀÍÆ÷×ܹ¦ºÄÔ¼ 2.5 kW£¬£¬£¬£¬£¬¿ÉÒÔÔÚ±ê×¼·çÀä»ú¼ÜÖÐÔËÐС£¡£¡£¡£¡£ÕâºÍ¶¯éüÊýʮǧÍß¡¢±ØÐèÉÏÒºÀäµÄ GPU ЧÀÍÆ÷²î±ðºÜ´ó¡£¡£¡£¡£¡£
Taalas µÄ CEO Ljubisa Bajic ÊÇ Tenstorrent µÄÍŽáÊ×´´ÈË£¬£¬£¬£¬£¬Ôøµ£µ±¸Ã¹«Ë¾µÄ CEO ºÍ CTO¡£¡£¡£¡£¡£Tenstorrent ÊÇ AI оƬÁìÓòÁíÒ»¼Ò×ÅÃûÊ×´´ÆóÒµ£¬£¬£¬£¬£¬×ßµÄÊÇ»ùÓÚ RISC-V ¼Ü¹¹µÄ¿É±à³Ì AI ¼ÓËÙÆ÷õè¾¶£¬£¬£¬£¬£¬ØÊºóÓÉоƬÐÐÒµ´«ÆæÈËÎï Jim Keller ½ÓÈÎ CEO ²¢¼ÌÐøÉú³¤¡£¡£¡£¡£¡£Bajic ÍÑÀë Tenstorrent ºóԼĪÔÚ 2023 ÄêÖн¨ÉèÁË Taalas£¬£¬£¬£¬£¬×ßÁËÒ»ÌõºÍ Tenstorrent ÏÕЩÍêÈ«Ïà·´µÄ·£º²»×·ÇóͨÓÃÐÔ£¬£¬£¬£¬£¬¶øÊǰÑרÓû¯ÍƵ½¼«¶Ë¡£¡£¡£¡£¡£ÏÖÔÚ£¬£¬£¬£¬£¬Taalas ÍŶӹæÄ£Ô¼ 25 ÈË£¬£¬£¬£¬£¬ÀÛ¼ÆÈÚ×ÊÁè¼Ý 2 ÒÚÃÀÔª£¬£¬£¬£¬£¬µ«¾Ý Bajic ×Ô¼ºÅû¶£¬£¬£¬£¬£¬µÚÒ»¿î²úÆ·ÏÖÊµÖ»ÆÆ·ÑÁËÔ¼ 3000 ÍòÃÀÔª¡£¡£¡£¡£¡£
ͼØLjubisaBajic£¨ÈªÔ´£ºTenstorrent£©
Taalas µÄоƬ¶¨ÖÆÁ÷³Ì½è¼øÁË 2000 ÄêÔÂÔçÆÚ½á¹¹»¯ ASIC£¨Application-Specific Integrated Circuit£¬£¬£¬£¬£¬×¨Óü¯³Éµç·£©µÄ˼Ð÷¡£¡£¡£¡£¡£½á¹¹»¯ ASIC ͨ¹ý¹Ì»¯ÃÅÕóÁкÍÓ²»¯ IP Ä£¿£¿£¿£¿£¿£¿£¿é£¬£¬£¬£¬£¬Ö»Ð޸Ļ¥Á¬²ãÀ´ÊÊÅä²î±ðÊÂÇé¸ºÔØ£¬£¬£¬£¬£¬ÔÚ±¾Ç®ºÍÐÔÄÜÉϽéÓÚ FPGA£¨Field-Programmable Gate Array£¬£¬£¬£¬£¬ÏÖ³¡¿É±à³ÌÃÅÕóÁУ©ºÍÈ«¶¨ÖÆ ASIC Ö®¼ä¡£¡£¡£¡£¡£
Taalas µÄ×ö·¨ÀàËÆµ«¸ü½øÒ»²½£ÔÃÄ¿ÎΪÐÂÄ£×Ó¶¨ÖÆÐ¾Æ¬Ê±Ö»ÐèÌæ»»Á½²ãÑÚÄ££¬£¬£¬£¬£¬ÕâÁ½²ãÑÚģͬʱ¾öÒéÄ£×ÓÈ¨ÖØµÄ±àÂëºÍÊý¾ÝÔÚоƬÄÚ²¿µÄÁ÷¶¯Â·¾¶¡£¡£¡£¡£¡£Bajic ÌåÏÖ£¬£¬£¬£¬£¬´ÓÄõ½Ò»¸öÐÂÄ£×Óµ½ÌìÉú RTL£¨Register Transfer Level£¬£¬£¬£¬£¬¼Ä´æÆ÷´«Êä¼¶ÐÎò£©Ô¼ÄªÖ»ÐèÒªÒ»ÖܵŤ³ÌÊÂÇéÁ¿£¬£¬£¬£¬£¬Õû¸ö´ÓÄ£×Óµ½Ð¾Æ¬µÄÖÜÆÚÄ¿µÄÊÇÁ½¸öÔ¡£¡£¡£¡£¡£
Õâ¸öÁ½¸öÔµÄÖÜתËÙÂÊÈôÊÇÄÜÎȹÌʵÏÖ£¬£¬£¬£¬£¬Òâζ×Åʲô£¿£¿£¿£¿£¿£¿£¿Òâζ×ŵ±Ò»¸öÄ£×ÓÔÚÉú²úÇéÐÎÖб»ÑéÖ¤ÓÐÓá¢Óû§Õ³ÐÔ×ã¹»¸ß¡¢Ô¤¼ÆÖÁÉÙÔËÐÐÒ»Äêʱ£¬£¬£¬£¬£¬Taalas ¿ÉÒÔÔڽ϶Ìʱ¼äÄÚΪËüÖÆÔìרÓÃ¹èÆ¬£¬£¬£¬£¬£¬ÒÔÔ¶µÍÓÚ GPU µÄ±¾Ç®ºÍ¹¦ºÄÀ´Ìá¹©ÍÆÀíЧÀÍ¡£¡£¡£¡£¡£Bajic ÈϿɣ¬£¬£¬£¬£¬ÕâÖÖģʽҪÇó¿Í»§¶Ôij¸öÌØ¶¨Ä£×Ó×ö³öÖÁÉÙÒ»ÄêµÄÔÊÐí£¬£¬£¬£¬£¬¡°Ò»¶¨ÓÐÐí¶àÈ˲»¿ÏÒ⣬£¬£¬£¬£¬µ«»áÓÐÈËÔ¸Ò⡱¡£¡£¡£¡£¡£
ÄÇô£¬£¬£¬£¬£¬ÕâÖÖ¼«¶ËרÓû¯ÄÜÀ©Õ¹µ½¸ü´óµÄÄ£×ÓÂ𣿣¿£¿£¿£¿£¿£¿Taalas ¸ø³öÁËËûÃÇ¶Ô DeepSeek R1 671B µÄÄ£ÄâÊý¾Ý¡£¡£¡£¡£¡£671B ²ÎÊýµÄÄ£×ÓÐèҪԼĪ 30 ¿ÅоƬÐͬÊÂÇ飬£¬£¬£¬£¬Ã¿¿ÅоƬ³ÐÔØÔ¼ 20B ²ÎÊý£¨½ÓÄÉ MXFP4 ÃûÌ㬣¬£¬£¬£¬²¢½« SRAM ÊèÉ¢µ½×ÔÁ¦Ð¾Æ¬ÒÔÌá¸ßÃܶȣ©¡£¡£¡£¡£¡£30 ¿ÅоƬÒâζ×Å 30 ´ÎÔöÁ¿Á÷Ƭ£¬£¬£¬£¬£¬µ« Bajic Ö¸³öÓÉÓÚÿ´ÎÖ»¸ÄÁ½²ãÑÚÄ££¬£¬£¬£¬£¬ÔöÁ¿Á÷Ƭ±¾Ç®²¢²»¸ß¡£¡£¡£¡£¡£
Ä£ÄâЧ¹ûÏÔʾ£¬£¬£¬£¬£¬ÕâÌ× 30 оƬϵͳÔÚ DeepSeek R1 ÉÏ¿ÉÒÔµÖ´ïÔ¼ 12,000 tokens/s/user£¬£¬£¬£¬£¬¶øÄ¿½ñ GPU ×îÓÅˮƽԼĪÔÚ 200 tokens/s/user¡£¡£¡£¡£¡£ÍÆÀí±¾Ç®Ô¼ 7.6 ÃÀ·Ö/°ÙÍò token£¬£¬£¬£¬£¬²»µ½ GPU ÍÌÍÂÓÅ»¯¼Æ»®µÄÒ»°ë¡£¡£¡£¡£¡£
ÕâЩÊý×ÖËäÈ»»¹Í£ÁôÔÚÄ£Äâ½×¶Î¡£¡£¡£¡£¡£ÏÖʵ¶àÐ¾Æ¬ÏµÍ³ÃæÁٵĻ¥Áª¡¢Í¬²½¡¢Á¼Âʵȹ¤³ÌÌôÕ½²»¿ÉСê£¬£¬£¬£¬30 ¿Å´óÃæ»ýоƬÐͬÊÂÇéµÄÑéÖ¤ÖØÆ¯ºóÒ²ÊÇÖ¸Êý¼¶ÔöÌíµÄ¡£¡£¡£¡£¡£Bajic ×Ô¼ºÒ²Ìáµ½£¬£¬£¬£¬£¬ÓÉÓÚоƬÍêÈ«²»¿É±à³Ì£¬£¬£¬£¬£¬¡°ÍÉ»¯µÄÓàµØ»ù±¾ÎªÁ㡱£¬£¬£¬£¬£¬Î¨Ò»Äܽ¨ÉèÐÅÐĵÄÒªÁì¾ÍÊÇÔÚÁ÷Ƭǰ¶ÔÕû¸öÄ£×Ó¾ÙÐÐÍêÕûµÄ·ÂÕæ¡ª¡ªÔõÑùÔÚºÏÀíʱ¼äÄÚÍê³É 30 ¿ÅоƬµÄÍŽá·ÂÕæ£¬£¬£¬£¬£¬×Ô¼º¾ÍÊÇÒ»¸öÖØ´óµÄ¹¤³ÌÎÊÌâ¡£¡£¡£¡£¡£Taalas Éù³ÆÒѾ½¨ÉèÁË¿ÉÒÔÔÚ´ó¹æÄ£ÅÌË㼯ȺÉÏÔËÐеķÂÕæÁ÷³ÌÀ´Ó¦¶Ô¡£¡£¡£¡£¡£
ÉÐÓÐÒ»¸öÖµµÃ¹Ø×¢µÄϸ½ÚÊÇ£¬£¬£¬£¬£¬HC1 ʹÓÃÁË×Ô½ç˵µÄ 3-bit »ù´¡Êý¾ÝÀàÐ;ÙÐм¤½øÁ¿»¯£¬£¬£¬£¬£¬ÍŽá 3-bit ºÍ 6-bit ²ÎÊý£¬£¬£¬£¬£¬»á´øÀ´Ïà¹ØÓڳ߻³±§»¯Ä£×ÓµÄÖÊÁ¿Ëðʧ¡£¡£¡£¡£¡£Taalas ¶Ô´Ë²¢Î´»Ø±Ü£¬£¬£¬£¬£¬ÈÏ¿ÉÄ£×ÓÔÚÖÊÁ¿»ù×¼²âÊÔÖлáÓÐÍË»¯¡£¡£¡£¡£¡£ËûÃǵĵڶþ´ú¹èƽ̨ HC2 ½«½ÓÄɱê×¼ 4-bit ¸¡µãÃûÌÃÒÔ¸ÄÉÆÕâÒ»ÎÊÌâ¡£¡£¡£¡£¡£µÚ¶þ¿î²úÆ·Ô¤¼ÆÊÇÒ»ÆäÖеȹæÄ£µÄÍÆÀíÄ£×Ó£¬£¬£¬£¬£¬ÍýÏë½ñÄê´º¼¾ÔÚʵÑéÊÒÍê³É£¬£¬£¬£¬£¬Ëæºó½ÓÈëÍÆÀíЧÀÍ¡£¡£¡£¡£¡£»£»£»£»£»ùÓÚ HC2 ƽ̨µÄÇ°ÑØ´óÄ£×ÓÔòÍýÏ붬¼¾°²ÅÅ¡£¡£¡£¡£¡£
Ä¿½ñ AI ÍÆÀíоƬÊг¡´óÖ¿ÉÒÔ°´×¨Óû¯Ë®Æ½ÅÅÁгÉÒ»¸ö¹âÆ×£ºÒ»¶ËÊÇ Nvidia GPU ÕâÑùµÄ¸ß¶ÈͨÓüƻ®£»£»£»£»£»ÖÐÐÄÊÇ Groq¡¢Cerebras¡¢SambaNova µÈ£¬£¬£¬£¬£¬ËüÃÇÉè¼ÆÁËÕë¶Ô LLM ÍÆÀíÓÅ»¯µÄ¶¨ÖƼܹ¹£¬£¬£¬£¬£¬µ«ÈÔ±£´æ¿É±à³ÌÐÔ£¬£¬£¬£¬£¬ÄÜÔËÐжàÖÖÄ£×Ó£»£»£»£»£»Etched ¸üÍùǰ×ßÒ»²½£¬£¬£¬£¬£¬×¨ÃÅÕë¶Ô Transformer ¼Ü¹¹Éè¼ÆÐ¾Æ¬£¬£¬£¬£¬£¬ÎþÉü²¿·ÖÎÞаÐÔ»»Ð§ÂÊ£»£»£»£»£»¶ø Taalas Ö±½ÓÕ¾ÔÚÁË×î×îºó£¬£¬£¬£¬£¬°ÑÒ»¸öÌØ¶¨Ä£×Óº¸ËÀÔÚ¹èÆ¬Àï¡£¡£¡£¡£¡£
£¨ÈªÔ´£ºGeminiÌìÉú£©
ÕâÖÖ¼«¶ËÕ½ÂÔµÄΣº¦ºÜÏÔ×Å¡£¡£¡£¡£¡£AI ÁìÓòÄ£×Óµü´úËÙÂʼ«¿ì£¬£¬£¬£¬£¬È¥ÄêµÄÇ°ÑØÄ£×Ó½ñÄê¿ÉÄܾͱ»ïÔÌ¡£¡£¡£¡£¡£ÈôÊÇÒ»¿ÅоƬֻÄÜÅÜÒ»¸öÄ£×Ó£¬£¬£¬£¬£¬¶øËÈËÄ£×ÓÔÚоƬÊÙÃü¿¢ÊÂǰ¾Í¹ýʱÁË£¬£¬£¬£¬£¬Í¶×ʾʹòÁËˮƯ¡£¡£¡£¡£¡£ÕâÒ²ÊÇ Bajic Ëù˵µÄ¡°ÎªÊ²Ã´Ö®Ç°Ã»È˸Ò×ßµ½Õâ¸ö½ÇÂ䡱¡£¡£¡£¡£¡£µ«ËûÒÔÎªËæ×ÅÐÐÒµ³ÉÊ죬£¬£¬£¬£¬×ÜÓÐһЩģ×ÓÔÚÏÖʵӪҵÖб»ºã¾ÃʹÓᣡ£¡£¡£¡£Taalas ²úÆ·¸±×ܲà Paresh Kharya£¨´ËÇ°ÔøÔÚ Nvidia ºã¾ÃÈÎÖ°£©Ò²¶Ô EE Times ÌåÏÖ£¬£¬£¬£¬£¬¹ØÓÚÔÚÖ÷ÒªÓªÒµ³¡¾°ÖÐÔËÐеÄÄ£×Ó£¬£¬£¬£¬£¬Óû§Õ³ÐÔ¿ÉÄÜÒ»Á¬Ò»ÄêÉõÖÁ¸ü¾Ã¡£¡£¡£¡£¡£
ÉÌҵģʽÉÏ Taalas »¹ÔÚ̽Ë÷¡£¡£¡£¡£¡£Kharya ͸¶Á˼¸ÖÖ¿ÉÄÜÆ«Ïò£º×Ô½¨»ù´¡ÉèÊ©ÔËÐпªÔ´Ä£×Ó²¢Ìṩ API ÍÆÀíЧÀÍ£»£»£»£»£»Ö±½ÓÏò¿Í»§³öÊÛоƬ£»£»£»£»£»»òÕßÓëÄ£×Ó¿ª·¢ÕßÏàÖú£¬£¬£¬£¬£¬ÎªËûÃǵÄÄ£×Ó¶¨ÖÆ×¨ÓÃоƬ¹©Æä×ÔÓÐÍÆÀí»ù´¡ÉèʩʹÓᣡ£¡£¡£¡£ÄÄÖÖģʽ×îÖÕÄÜÅÜͨ£¬£¬£¬£¬£¬È¡¾öÓÚÊг¡¶ÔÕâÖÖ¼«¶ËרÓû¯¼Æ»®µÄ½ÓÊÜˮƽ¡£¡£¡£¡£¡£
²»¹ý´Ó´¿ÊÖÒսǶÈÀ´Ëµ£¬£¬£¬£¬£¬Taalas µÄ¼Æ»®È·Êµ´¥¼°ÁËÒ»¸ö±»Ö÷Á÷õè¾¶ºöÂÔµÄÉè¼Æ¿Õ¼ä¡£¡£¡£¡£¡£´æËãÊèÉ¢´øÀ´µÄ´ø¿íǽ£¨memory wall£©ÊÇÄ¿½ñÍÆÀíÓ²¼þµÄ½¹µãÆ¿¾±£¬£¬£¬£¬£¬¶ø Taalas ͨ¹ý½«È¨ÖØÒÔ Mask ROM ÐÎʽÓëÅÌËãÂ߼ͬ²ã¼¯³É£¬£¬£¬£¬£¬´Ó»ù´¡ÉÏÏû³ýÁËÕâ¸öÆ¿¾±¡£¡£¡£¡£¡£¼ÛÇ®ÊÇÎÞаÐԵij¹µ×Ëðʧ£¬£¬£¬£¬£¬µ«ÈôÊÇÓ¦Óó¡¾°ÔÊÐíÕâÖÖ¸ÕÐÔ£¬£¬£¬£¬£¬»»À´µÄÐÔÄܺͱ¾Ç®ÓÅÊÆÊÇʵ´òʵµÄ¡£¡£¡£¡£¡£
Bajic »¹Í¸Â¶£¬£¬£¬£¬£¬Taalas ÄÜÓõ¥¸ö¾§Ìå¹Üͬʱ´æ´¢ 4-bit Ä£×Ó²ÎÊý²¢Íê³É³Ë·¨ÔËËã¡£¡£¡£¡£¡£Ëû¾Ü¾øÍ¸Â¶¸ü¶à£¬£¬£¬£¬£¬µ«È·ÈÏÅÌËãÈÔÈ»ÊÇÈ«Êý×ֵġ£¡£¡£¡£¡£ÈôÊÇÊôʵ£¬£¬£¬£¬£¬ÕâÒâζ×Å Taalas Ôڵ緲ãÃæÊµÏÖÁËÒ»ÖÖ¼«Îª¸ßЧµÄ´æÄÚÅÌË㣨Compute-in-Memory£©»úÖÆ£¬£¬£¬£¬£¬ËäÈ»²î±ðÓÚѧÊõ½çÌÖÂ۽϶àµÄÄ£Äâ´æÄÚÅÌËã¼Æ»®£¬£¬£¬£¬£¬µ«Ä¿µÄÒ»Ö£ºÈÃÊý¾Ý¾ÍµØ¼ÓÈëÔËË㣬£¬£¬£¬£¬²»ÔÙ°áÀ´°áÈ¥¡£¡£¡£¡£¡£
Ó²½ÓÏßоƬ»¹´øÀ´ÁËÒ»¸öÒâÏë²»µ½µÄ¸±²úÆ·£ºÈí¼þÕ»µÄ¼«¶Ë¼ò»¯¡£¡£¡£¡£¡£Bajic ˵¡°Èí¼þ×÷Ϊһ¸ö¹¤¾ß»ù±¾ÏûÊÅÁË¡±£¬£¬£¬£¬£¬¹«Ë¾Ö»ÓÐÒ»¸ö¹¤³ÌʦÈÏÕæÈí¼þÕ»£¬£¬£¬£¬£¬²¢ÇÒÕâÈË»¹¼æ¹ËÆäËûÊÂÇé¡£¡£¡£¡£¡£±ÈÕÕÄ¿½ñ GPU ÍÆÀíϵͳÖÐ vLLM¡¢TensorRT-LLM¡¢PagedAttention µÈÖØ´óÈí¼þÓÅ»¯²ãµÄ¹¤³ÌͶÈ룬£¬£¬£¬£¬ÕâÖÖ¼ò»¯ÏÕЩÊǽµÎ¬Ê½µÄ¡£¡£¡£¡£¡£ËäÈ»£¬£¬£¬£¬£¬ÕâÖÖ¼ò»¯ÊÇÒÔ¼«¶ËÓ²¼þרÓû¯ÎªÌõ¼þµÄ£¬£¬£¬£¬£¬²»¾ßÓÐÒ»Ñùƽ³£ÐÔ¡£¡£¡£¡£¡£
Bajic ÔÚ²©¿ÍÖÐÓà ENIAC µ½¾§Ìå¹ÜµÄÑÝ»¯×öÀà±È£¬£¬£¬£¬£¬ÌåÏÖÄ¿½ñÒÔ GPU Êý¾ÝÖÐÐÄΪ½¹µãµÄ AI »ù´¡ÉèÊ©¿ÉÄÜÖ»ÊÇÔçÆÚµÄ¡°´Ö±¿ÔÐÍ¡±£¬£¬£¬£¬£¬Î´À´ÖÕ½«±»¸ü¸ßЧµÄ¼Æ»®È¡´ú¡£¡£¡£¡£¡£Õâ¸öÀà±ÈÓÐÒ»¶¨ÔÀí£¬£¬£¬£¬£¬µ«Ò²²»ÒËÌ«¹ýÒýÉê¡£¡£¡£¡£¡£GPU Êý¾ÝÖÐÐĵġ°±©Á¦¡±²»µ«½öÊÇÓ²¼þ²ãÃæµÄ£¬£¬£¬£¬£¬Ëü±³ºóÊÇÕû¸ö CUDA Èí¼þÉú̬¡¢³ÉÊìµÄ¿ª·¢¹¤¾ßÁ´ºÍÖØ´óµÄ¹¤³ÌʦÉçÇø¡£¡£¡£¡£¡£Ç㸲Ӳ¼þÈÝÒ×£¬£¬£¬£¬£¬Ç㸲Éú̬ÄÑ¡£¡£¡£¡£¡£Taalas µÄоƬ»òÐíÔÚÌØ¶¨³¡¾°ÏÂÓµÓÐѹµ¹ÐÔµÄÐÔÄܺͱ¾Ç®ÓÅÊÆ£¬£¬£¬£¬£¬µ«Òª³ÉΪÖ÷Á÷õè¾¶µÄÌæ»»¼Æ»®£¬£¬£¬£¬£¬ÐèÒªµÄÔ¶²»Ö¹Ò»¿ÅÅܵÿìµÄоƬ¡£¡£¡£¡£¡£
²»¹ý£¬£¬£¬£¬£¬Taalas ¿ÉÄÜÒ²´ÓδÍýÏë³ÉΪ¡°Ìæ»»¼Æ»®¡±¡£¡£¡£¡£¡£Kharya ÌåÏÖ£º¡°Ä£×Ó×îÓÅ¹èÆ¬²»»áÈ¡´úÈ«ÊÇ GPU µÄ´óÐÍÊý¾ÝÖÐÐÄ£¬£¬£¬£¬£¬µ«Ëü»áÊʺÏijЩӦÓᣡ£¡£¡£¡£¡±
²Î¿¼×ÊÁÏ£º
1.https://taalas.com/the-path-to-ubiquitous-ai/
2.https://www.¼ÓÄôóÕ¹Íû28Õ¹Íû×ßÊÆeetimes.com/taalas-specializes-to-extremes-for-extraordinary-token-speed/
ÔªËØÖ®Å¾Þϸ£¡£¡£¡£¡£º78.87M°æ±¾£ºvip6.3.27ÏÂÔØ
İͷսʿ¾Þϸ£¡£¡£¡£¡£º89.59M°æ±¾£ºvip0.5.14ÏÂÔØ
ÐÇºÓÆ¯Á÷¾Þϸ£¡£¡£¡£¡£º61.45M°æ±¾£ºvip4.3.71ÏÂÔØ
İͷÉñȾÞϸ£¡£¡£¡£¡£º70.90M°æ±¾£ºvip9.8.81ÏÂÔØ
Shattered Realms¾Þϸ£¡£¡£¡£¡£º46.73M°æ±¾£ºvip1.5.11ÏÂÔØ
¾øÃüİͷ¾Þϸ£¡£¡£¡£¡£º74.70M°æ±¾£ºvip4.7.17ÏÂÔØ

»ÔÒ«ÌìÑÄÏàÖú¾º¼¼22.47Mvip4.5.91
ÏÂÔØ
ÉîÔ¨Ö®¹ÚMMO-MassivelyMultiplayerOnline42.49Mvip6.1.27
ÏÂÔØ
Eternal FlameºÏ³É49.35Mvip2.6.81
ÏÂÔØ
»ÔÒ«ÌìÑÄÍŶÓ67.45Mvip4.0.65
ÏÂÔØ
³à±ÚÕù·æ¶àÈËÔÚÏß92.92Mvip9.3.25
ÏÂÔØ
İͷ¶ñͽSRPG95.54Mvip2.1.6
ÏÂÔØ
¿ñÅİͷÒôÀÖÓë½Ú×à13.77Mvip9.3.25
ÏÂÔØ
StarshardArtStyle58.32Mvip7.9.25
ÏÂÔØ
ÎÞη¸ñ¶·Sandbox95.10Mvip6.7.26
ÏÂÔØ
ÆáºÚáÈÆðÕ½ÂÔ23.96Mvip9.4.96
ÏÂÔØ