TL;DR
- از زمان تولد مدلهای زبان بزرگ (LLM) و انتشار ChatGPT،.
- هوش مصنوعی (AI) از یک مفهوم دور از دسترس به نشان دادن امید واقعی در چشمانداز تجاری برای.
- هر صنعت و کسبوکاری تبدیل شده است.
چه اتفاقی افتاد
از زمان تولد مدلهای زبان بزرگ (LLM) و انتشار ChatGPT،. هوش مصنوعی (AI) از یک مفهوم دور از دسترس به نشان دادن امید واقعی در چشمانداز تجاری برای.
هر صنعت و کسبوکاری تبدیل شده است. از تجربیات شخصی مشتری گرفته تا عملیات ساده و افزایش امنیت، امکانات بی پایان هستند.
با این حال،. واقعیتی که در بسیاری از شرکتها با آن مواجه هستیم،.
نشان دهنده فقدان فناوریهای زیرساختی قوی و انعطاف پذیر است که به کسب و کار اجازه می. دهد از پتانسیل کامل این وعدههای هوش مصنوعی استفاده کند.
رهبران پتانسیل هوش مصنوعی را میبینند و میخواهند آن را بپذیرند،. اما تیمها به ابزار اولیهای که به آنها امکان میدهد آن را کاوش کنند دسترسی ندارند.
اینجاست که Red Hat OpenShift AI و Redis وارد عمل میشوند و محیطی قدرتمند را برای دانشمندان داده. و مهندسین یادگیری ماشین (ML) ارائه میکنند.
OpenShift AI راه کارآمدی را در اختیار ها قرار میدهد. برای استقرار و مدیریت مجموعهای جامع از ابزارهای AI/ML.
توانایی آن برای ایجاد محیطهای سفارشی تضمین میکند که دانشمندان داده و مهندسان یادگیری ماشین همیشه منابع مناسب. را در اختیار دارند.
Redis سریعترین پایگاهداده حافظه در جهان است. این یک راهحل همه کاره است که فراتر از یک ذخیره اطلاعات کلید-مقدار ساده تکامل یافته است.
تا از طیف گستردهای از موارد استفاده پشتیبانی کند،. از جمله:.
پایگاه داده برداری:. دادههای برداری ذخیره و پرس و جو برای جستجوهای مشابه بازیابی تولید افزوده (RAG):.
افزایش دقت و ارتباط LLM با پایه گذاری جستجوها در زمان واقعی دادهها حافظه پنهان:. بهینهسازی عملکرد و کاهش هزینههای LLM با ذخیره کردن اعلانها و پاسخهای مشابه معنایی.
بهتر با هم:. برنامههای OpenShift AI و RedisAI،.
به ویژه آنهایی که شامل هوش مصنوعی (ژن AI) هستند،. تقاضای بالایی دارند.
عملکرد و تاخیر کم کاربران انتظار پاسخهای زمان واقعی و تجربیات شخصی دارند. ترکیبی از OpenShift AI و Redis این چالشها را مستقیماً برطرف میکند.
OpenShift AI محیطی را فراهم میکند که دانشمندان داده میتوانند از ابزارهای مختلف،. از جمله مدلهای جاسازی،.
چارچوبهای شخص ثالث مانند LangChain یا LlamaIndex و چندین LLM برای پیادهسازی موارد استفاده از هوش مصنوعی نسل. خود در مقیاس استفاده کنند.
Redis تأخیر فرعی دومیرا که موارد استفاده از هوش مصنوعی نسل نیاز دارند ارائه میدهد. بیایید به موارد استفاده خاص بپردازیم: 1.
بازیابی تولید افزوده (RAG)RAG دانش LLMها را با یکپارچه سازی منابع داده خارجی افزایش میدهد. LLMها میتوانند به جای تکیه بر دانش از پیشآموزش داده شده خود،.
اطلاعات مربوطه را از یک پایگاه داده در زمان واقعی دریافت کنند تا پاسخهای دقیقتر و. مناسبتری تولید کنند.
تنظیم دقیق یک LLM با دادههای خاص کسب و کار بهطور سنتی یک فرآیند پرهزینه و وقت. گیر است.
و بسته به تعداد دفعات تغییر پایگاه دانش (با سوابق جدید یا به روز شده) ممکن است قابل. دوام نباشد.
حفظ پایگاه دانش در خارج از مدل،. انعطافپذیری بیشتری را فراهم میکند و اطمینان از اینکه LLM همیشه آخرین اطلاعات را برای ارائه به کاربران.
دارد،. آسانتر میکند.
مزیت کسبوکار:. دقت بهبود یافته،.
کاهش توهم و دسترسی به اطلاعات بهروز برای رباتهای چت،. ابزارهای تولید محتوا و موارد دیگر.
در این مورد، Redis نقش خطوط بردار را ایفا میکند، نه با منبع اطلاعاتی Openshift و Openshift. ابزارهایی برای دانشمندان داده برای تهیه دادههای برداری و آزمایش کیفیت و عملکرد جستجوهای معنایی.
OpenShift AI همچنین ابزارهای پیشرفتهای مانند نردههای محافظ برای بهبود دقت LLM و نظارت و محافظت. بهتر از تعاملات ورودی کاربر و خروجیهای مدل ارائه میدهد.
با استفاده از Redis بهعنوان پایگاه داده برداری،. مدیران میتوانند کنترل دسترسی مبتنی بر نقش (RBAC) و لیستهای کنترل دسترسی (ACL) را برای جدا.
کردن دادههای برداری بین کاربران مختلف،. بخشها و غیره پیکربندی کنند.
این به بردارهایی اجازه میدهد که حاوی اطلاعات حساسی هستند که فقط میتوانند با کاربران خاصی. به اشتراک گذاشته شوند.
Redis این کنترل را نه تنها بهعنوان یک پارامتر کوئری در بالاترین سطح پیادهسازی میکند. اجرای cacheLLMهای معنایی میتواند گران باشد، به خصوص برای پرس و جوهای تکراری.
یک کش معنایی پاسخهای LLM را بر اساس معنای پرس و جو ذخیره میکند،. نه فقط متن دقیق.
هنگامیکه کاربر یک درخواست جدید ارسال میکند،. سیستم به دنبال اعلانهای مشابه میگردد و اگر مطابقت پیدا کند،.
پاسخ LLM را مستقیماً از حافظه پنهان بازیابی میکند،. سفر به سرور LLM و هزینه رمز مربوطه (هنگام استفاده از یک سرویس LLM میزبانی شده) یا ظرفیت.
محاسبه (هنگامیکه یک مدل خود میزبانی میشود) را ذخیره میکند. مزایای کسب و کار میتواند بهطور قابل توجهی حافظه پنهان را کاهش دهد.
هزینههای LLM،. به ویژه برای موارد استفاده که در آن کاربران انتظار میرود سوالات اساسی یا عمومیبپرسند (سؤالات.
متداول و غیره). مزایای دیگر شامل زمان پاسخ سریعتر و مقیاس پذیری بهبود یافته برای برنامههای کاربردی مبتنی بر هوش.
مصنوعی است. در این مورد، Redis بهعنوان پایگاه داده برداری و حافظه پنهان معنایی استفاده میشود.
برخی از چارچوبها،. مانند LangChain،.
بلافاصله برای ذخیره درخواستها در حافظه پنهان معنایی و بررسی خودکار برای هر درخواست جدید پیکربندی میشوند. این به توسعه دهندگان این امکان را میدهد تا بدون نیاز به نوشتن کدهای زیاد یا کنترل.
خواندن و نوشتن در حافظه نهان،. به سرعت از این قابلیت استفاده کنند.
دانشمندان داده میتوانند آستانه فاصله را برای حافظه نهان بر اساس الزامات و ویژگیهای مورد استفاده. تعریف کنند.
هوش مصنوعی OpenShift محیط و ابزارهایی مانند Jupyter و خطوط لوله علم داده را برای ایجاد و اجرای. کدی فراهم میکند که دادههای برداری را تولید و بارگذاری میکند.
این میتواند به دادهها کمک کند دانشمندان نه تنها دادههای برداری را تولید میکنند،. بلکه حافظه پنهان معنایی را با هزاران پرسش و پاسخ از پیش بارگذاری میکنند که میتوان.
با کمک یک LLM تولید کرد. به این ترتیب،.
وقتی اولین کاربر سؤالی میپرسد،. احتمال خوبی وجود دارد که سؤال مشابهی قبلاً در حافظه پنهان وجود داشته باشد،.
و زمان پاسخدهی را به میلیثانیه کاهش میدهد،. بهطور بالقوه 15 برابر سریعتر از خط لوله سنتی RAG.
اگر بتوانیم تجربه کاربری را تضمین کنیم که پاسخ بیشتر درخواستها تنها میلیثانیه طول میکشد،. چگونه میتوانیم این تجربه کاربری را غنیسازی کنیم؟
اگر بدانیم که کاربران هر بار برای چند ثانیه منتظر نخواهند ماند،. چه داده یا خدمات دیگری را میتوانیم به آن اضافه کنیم؟
حافظههای LLM، بنا به تعریف، فاقد حالت هستند. به این معنی که هیچ سابقهای از هرگونه تعامل قبلی با کاربر را نگه نمیدارند.
تا آنجا که مدل آگاه است،. هر اعلان یک اعلان کاملاً جدید است،.
بدون گذشته یا تاریخچهای برای در نظر گرفتن. برای دور زدن این محدودیت،.
برنامههای مشتری (مانند رباتهای چت) تاریخچه مکالمه بین کاربر و مدل را نگه میدارند (به. علاوه برخی اطلاعات اضافی) و هر بار که کاربر یک درخواست جدید ارسال میکند،.
این دادهها را به مدل ارائه میدهد. ظرفیت استفاده از این دادهها «پنجره زمینه» نامیده میشود و این امکان را برای مدل فراهم میکند تا.
پاسخها را در چارچوب مکالمهای که در حال وقوع است نگه دارد. مزیت کسبوکار: چتباتهای جذابتر و آگاهتر از زمینه، تجربیات مشتری شخصیشده و توانایی بهبودیافته برای مدیریت مکالمات پیچیده.
تنها با استفاده از 2 خط کد علاوه بر این،. استفاده از Redis برای ذخیره حافظه LLM مزایای تاثیرگذار دیگری نیز دارد،.
مانند:. تجربه کاربری چند کانالی را فعال میکند.
کاربران میتوانند چتبات مبتنی بر مرورگر را ببندند و دستیار صوتی را در برنامه تلفن همراه خود. باز کنید و مکالمه را دقیقاً از همان جایی که متوقف کرده اند ادامه دهید،.
زیرا هر دو مشتری در حال برداشتن سابقه مکالمه از Redis هستند؛ در صورتی که یک مرکز تماس یا تیم داخلی دیگری نیاز به بررسی سابقه مکالمه بین کاربر و.
ربات داشته باشد،. میتوان آن را به راحتی از Redis بازیابی کرد.
این به کارکنان داخلی امکان میدهد دقیقاً بفهمند که در آن مکالمه چه اتفاقی افتاده است و اینکه. آیا اطلاعات ارائه شده توسط مدل صحیح بوده است یا خیر.
علاوه بر این،. OpenShift AI محیطی را در اختیار دانشمندان داده قرار میدهد که میتواند برای دسترسی به تاریخچه مکالمه در.
Redis برای تنظیم دقیق مدل مکالمه سفارشی شود. دسترسی به مجموعه دادهای که شامل پرسشها و پاسخهای واقعی است میتواند برای اطمینان.
از بهبود مستمر پاسخهای LLM حیاتی باشد. با OpenShift AI،.
دانشمندان داده منابع و ابزار لازم را دارند تجزیه و تحلیل و یک مجموعه داده برای استفاده برای. تنظیم دقیق مدل جاسازی یا LLM (یا برای آماده کردن دستورهای جدید برای "پیش گرم کردن" حافظه پنهان.
معنایی). اکنون که موارد استفاده اصلی را پوشش دادیم،.
بیایید ببینیم چگونه میتوانیم این ایدهها را عملی کنیم. شروع به کار استقرار Redis در Red Hat OpenShift را میتوان با استفاده از OperatorHub بسیار ساده.
کرد. در کنسول وب OpenShift، به صفحه OperatorHub (در بخش Operators در پانل ناوبری سمت چپ) بروید.
از آنجا میتوانید به تب Database بروید و Redis را جستجو کنید،. یا به سادگی Redis را در نوار جستجو تایپ کنید.
سپس میتوانید صفحه جزئیات را باز کنید و روی دکمه Install کلیک کنید تا اپراتور Redis به. سرعت ایجاد شود.
OpenShift UI:. 2 منبع اصلی برای Redis وجود دارد:.
خوشه و پایگاه داده (به همراه همتایان فعال فعال آنها که خارج از حوزه این مقاله). خوشه Redis چندین پایگاه داده را مدیریت میکند و از دسترسی و مقیاس پذیری بالا اطمینان می.
دهد. این اولین منبعی است که باید ایجاد شود.
هنگامیکه خوشه ایجاد شد،. میتوان یک پایگاه داده جدید ایجاد کرد تا به موارد استفاده مورد بحث در بالا خدمت کند.
اطمینان حاصل کنید که قابلیتهای Search و پشتیبانی JSON را فعال کرده اید، زیرا برای جستجوی برداری ضروری هستند. پس از ایجاد پایگاه داده،.
کاربران میتوانند به کنسول Redis برای بازیابی اطلاعات اتصال،. بررسی معیارها و ردیابی سلامت کلی پایگاه داده دسترسی داشته باشند.
در مرحله بعد، محیط AI OpenShift را میتوان پیکربندی کرد. در اینجا،.
کاربران میتوانند یک محیط نوت بوک ایجاد کنند،. خدمات استنباط را برای LLMهای محلی ارائه دهند،.
خطوط لوله علم داده را ایجاد و پیکربندی کنند و خیلی چیزهای دیگر. نوت بوکهای Jupyter یک راه بسیار ساده و راحت برای آزمایش جستجوهای برداری ارائه میدهند.
کاربران میتوانند تنها با چند خط کد به پایگاه داده Redis متصل شوند. و از آنجا،.
آنها میتوانند از چارچوبهای محبوب مانند LangChain و LlamaIndex استفاده کنند،. یا میتوانند از بسته redis-vl استفاده کنند،.
که به آنها اجازه میدهد از قابلیتهای برداری بدون نیاز به چارچوب خاصی استفاده کنند. برای استفاده از این ابزارهای هوش مصنوعی مورد نیاز یکی از بزرگترین چالشهایی است که شرکتها با آن.
روبرو هستند،. زیرا آنها سعی میکنند ارزشی را که هوش مصنوعی میتواند برای کسبوکارشان به ارمغان بیاورد را درک کنند.
OpenShift AI و Redis ترکیبی قدرتمند برای هایی ارائه میدهند که به دنبال استفاده موثر از هوش مصنوعی. هستند.
این فناوریها با ارائه یک محیط توسعه انعطافپذیر هوش مصنوعی و یک پلت فرم داده با عملکرد بالا،. دانشمندان داده و مهندسان یادگیری ماشین را قادر میسازند تا راهحلهای خلاقانه هوش مصنوعی بسازید که.
ارزش واقعی کسب و کار ایجاد کند. چه RAG باشد،.
چه حافظه نهان معنایی یا حافظه LLM،. OpenShift AI و Redis پایه و اساس ساخت برنامههای هوشمند سریع،.
مقیاس پذیر و آگاه از زمینه را فراهم میکنند.
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.