Nvidia “Tensorrt for RTX” سرعت بیشتری نسبت به استنتاج AI در GPU های RTX – PC Watch را آسانتر می کند

Tensorrt برای RTX

در نوزدهم ، Nvidia از کتابخانه استنتاج AI شتاب ، “Tensorrt for RTX” در رابطه با Computex Taipei 2025 خبر داد. گفته می شود که در تمام GPU های سری RTX در دسترس است و قرار است در ماه ژوئن در دسترس باشد.

این شرکت مدتهاست که یک پشته نرم افزاری برای بهینه سازی عملکرد AI ارائه داده است و شامل “Tensorrt” است که باعث افزایش استنتاج AI می شود. گفته می شود که در بیش از 750 بازی و برنامه ها در بهینه سازی عملکرد AI استفاده شده است.

پشته های نرم افزاری از جمله Tensorrt

هوش مصنوعی SDK ارائه شده توسط NVIDIA با هدف سرعت بخشیدن به عملکرد نرم افزارهای مختلف.

Tensorrt یک موتور Tensorrt (موتور استنتاج) تولید می کند که با استفاده از کمیت و روشهای دیگر برای مدلهای آموزش دیده موجود بهینه شده است. این موتور هنگام اجرای استنباط برای سرعت بخشیدن به موتور استفاده می شود. این شرکت توضیح می دهد که می تواند دو برابر عملکرد را در مقایسه با DirectML ارائه شده توسط مایکروسافت ارائه دهد.

از طرف دیگر ، اگر مدل GPU متفاوت باشد ، این موتور Tensorrt سازگار نیست. بنابراین ، هنگام تلاش برای پشتیبانی از چندین GPU ، مواردی از قبیل افزایش بار توسعه دهندگان و عدم توانایی در به حداکثر رساندن عملکرد وجود داشت.

Tensorrt تازه اعلام شده برای RTX ، فرآیند تولید موتور Tensorrt را به دو دسته اصلی تقسیم می کند. اول ، یک موتور تنشورت با هدف کلی که می تواند در هر GPU مورد استفاده قرار گیرد ، از یک مدل آموزش دیده تولید می شود و موتور Tensorrt متناسب با GPU هر محیط بهینه می شود. علاوه بر این ، بهینه سازی برای GPU فقط یک بار هنگام نصب یک برنامه یا هنگام شروع اولین بار انجام می شود و فقط در چند ثانیه به پایان می رسد.

این به توسعه دهندگان این امکان را می دهد تا با تولید یک موتور Tensorrt عمومی به راحتی از تمام GPU های سری RTX پشتیبانی کنند. علاوه بر این ، این کتابخانه با اندازه یک هشتم جمع و جور خواهد شد و بسته بندی آن را آسان تر می کند.

Tensorrt حداکثر دو برابر عملکرد DirectML ارائه می دهد

علاوه بر این ، تولید تصویر “Flux.1-Dev V2” و “Flux.1-Schnell” برای RTX به NVIDIA NIM اضافه شده است ، یک میکروسرویس AI Generation برای GPU های سری RTX. علاوه بر این ، پروژه G-Assist ، که توسط AI در بهینه سازی سیستم های بازی کمک می کند ، ارائه افزونه های جدیدی مانند Discord و IFTTT را آغاز کرده است.

میکروسروس های جدید برای RTX به nvidia nim اضافه شده است

پروژه G-Assist ارائه افزونه های جدید را آغاز کرده است