TL;DR
- v1 نوع اعلام:.
- جدید چکیده:.
- سیستمهای تصمیمگیری با ریسک بالا بهطور فزایندهای به توجیه ساختاریافته،.
چه اتفاقی افتاد
v1 نوع اعلام:. جدید چکیده:.
سیستمهای تصمیمگیری با ریسک بالا بهطور فزایندهای به توجیه ساختاریافته،. قابلیت ردیابی و ممیزی نیاز دارند تا از پاسخگویی و انطباق با مقررات اطمینان حاصل شود.
استدلالهای رسمیکه معمولاً در تأیید سیستمهای حیاتی ایمنی استفاده میشوند،. مکانیسمیرا برای ساختاربندی ادعاها،.
استدلالها و شواهد به شیوهای قابل تأیید فراهم میکنند. در عین حال،.
سیستمهای هوش مصنوعی مولد بهطور فزایندهای در جریانهای کاری پشتیبانی تصمیم ادغام میشوند و به تهیه پیشنویس توضیحات،. جمعبندی شواهد و ارائه توصیهها کمک میکنند.
با این حال،. استقرارهای فعلی اغلب به مدلهای زبانی بهعنوان دستیارهایی با محدودیت محدود متکی هستند که خطراتی مانند استدلال توهمآمیز،.
ادعاهای پشتیبانینشده و قابلیت ردیابی ضعیف را به همراه دارد. این مقاله یک معماری انطباق با ساخت را پیشنهاد میکند که هوش مصنوعی (GenAI) را با ساختیافته ادغام.
میکند. بازنماییهای آرگومان رسمی این رویکرد،.
هر مرحله با کمک هوش مصنوعی را بهعنوان ادعایی در نظر میگیرد که باید با شواهد قابل تأیید. پشتیبانی شود و قبل از تبدیل شدن به بخشی از یک پرونده تصمیم رسمی،.
در برابر محدودیتهای استدلال صریح تأیید شود. معماری چهار مؤلفه را ترکیب میکند:.
i) یک نمایش گراف استدلال تایپ شده با الهام از روشهای موردی اطمینان،. دوم) تولید افزوده شده با بازیابی (RAG) برای پیشنویسی قطعات آرگومان مبتنی بر شواهد معتبر،.
iii) یک هسته استدلال و اعتبار سنجی که کامل بودن و پذیرش محدودیتها را به همراه دارد. ما یک طراحی سیستم و یک استراتژی ارزیابی را بر اساس متغیرهای قابل اجرا و نمونههای کار.
ارائه میدهیم. تجزیه و تحلیل نشان میدهد که قوانین اعتبار سنجی قطعی میتوانند از ورود ادعاهای پشتیبانی نشده.
به پرونده تصمیمگیری جلوگیری کنند و در عین حال به GenAI اجازه دهند تسریع ساخت آرگومان.
چرا مهم است
اهمیت این خبر در این است که روی استفاده واقعی از AI و تصمیمگیری سازمانی اثر میگذارد.
منبع
لینک منبع اصلی در کارت و صفحه مقاله نمایش داده میشود.