بلاگ
هوش مصنوعی مولد در سازمان؛ مدیریت اسناد، دانش و دقت پاسخ‌ها
هوش مصنوعی مولد می‌تواند در جست‌وجوی اطلاعات، خلاصه‌سازی اسناد و تهیه پیش‌نویس به کارکنان کمک کند؛ اما وقتی دانش شرکت در فایل‌ها، سامانه‌ها و نسخه‌های متعدد پخش شده است، مدل زبانی به‌تنهایی مرجع معتبر نمی‌شود. چالش اصلی این است که پاسخ به محتوای درست، به‌روز و مجاز متصل باشد و محدودیت آن به کاربر توضیح داده شود. پیش از انتخاب ابزار، باید تعیین کرد کدام پرسش‌ها تکراری‌اند، چه منابعی اعتبار دارند و چه تصمیم‌هایی همچنان نیازمند بررسی فرد متخصص هستند.
از مسئله دانشی مشخص آغاز کنید
هدف «استفاده از هوش مصنوعی» برای طراحی کاربرد کافی نیست. مسئله را به شکل یک کار واقعی توصیف کنید: کارمند برای یافتن نسخه معتبر دستورالعمل چند سامانه را می‌گردد؛ تیم پشتیبانی پاسخ‌های پراکنده دارد؛ یا آماده‌سازی خلاصه از مجموعه اسناد زمان می‌برد. سپس گروه کاربران، نوع پرسش، خروجی مورد انتظار و پیامد اشتباه را بنویسید. یک جست‌وجوی داخلی برای راهنمای عمومی با تولید پاسخ درباره قرارداد یا وضعیت فردی، ریسک یکسانی ندارد. این تفکیک محدوده آزمایش و سطح بازبینی انسانی را روشن می‌کند.
منابع را پیش از اتصال فهرست کنید. برای هر سند، مالک، تاریخ آخرین بازبینی، مخاطب مجاز و ارتباط آن با نسخه‌های دیگر را مشخص کنید. اسناد قدیمی یا کپی‌های بدون مالک را وارد پایگاه پاسخ نکنید؛ ترکیب محتواهای متناقض می‌تواند جواب آشفته‌ای بسازد که ظاهراً مطمئن به نظر می‌رسد. همچنین طبقه‌بندی اطلاعات را به مدل یا موتور جست‌وجو واگذار نکنید. سازمان باید بداند کدام محتوا عمومی، داخلی، محدود یا حساس است و هر نقش به کدام بخش دسترسی دارد.
جست‌وجوی مبتنی بر منابع را از پاسخ‌سازی جدا کنید
در بسیاری از کاربردها، مدل ابتدا باید بخش‌های مرتبط از اسناد را بازیابی کند و سپس بر پایه همان بخش‌ها پاسخ را تدوین کند. این روش می‌تواند دسترسی به دانش داخلی را منظم‌تر کند، اما صحت را تضمین نمی‌کند. کیفیت پاسخ به چگونگی قطعه‌بندی اسناد، کیفیت جست‌وجو، به‌روز بودن نسخه‌ها و دستورالعمل مدل وابسته است. اگر سند مناسبی پیدا نشود، سیستم باید بتواند اعلام کند که اطلاعات کافی در دسترس نیست. پاسخ همراه با عنوان یا پیوند منبع، بررسی انسانی را آسان‌تر می‌کند و خطا را قابل پیگیری می‌سازد.
پاسخ‌ها را به اندازه نیاز کوتاه نگه دارید. اگر درخواست چند بخش دارد، دستیار می‌تواند پاسخ را به نکته‌ها تقسیم کند و برای جزئیات به سند مرجع پیوند دهد. نقل بخش‌هایی از اسناد ممکن است کمک کند، اما باید از نمایش محتوای خارج از سطح دسترسی کاربر جلوگیری شود. نتایج جست‌وجو نیز باید با مجوزهای مبدأ هماهنگ بمانند؛ صرف اتصال یک مخزن به ابزار، مجوز عمومی برای نمایش همه فایل‌ها ایجاد نمی‌کند. روش‌های احراز هویت و کنترل دسترسی را در همان معماری بررسی کنید، نه پس از انتشار.
ارزیابی را با مجموعه پرسش‌های واقعی انجام دهید
پیش از استفاده گسترده، یک مجموعه آزمون از پرسش‌های رایج، مبهم، دارای پاسخ در چند منبع و بدون جواب معتبر تهیه کنید. برای هر مورد، پاسخ مورد انتظار، سند مرجع و سطح اطمینان لازم را ثبت کنید. سپس نتیجه سامانه را از نظر ارتباط، صحت، استفاده از نسخه درست، رعایت دسترسی و اعلام محدودیت ارزیابی کنید. چند کاربر از نقش‌های مختلف باید نمونه‌ها را بازبینی کنند؛ کیفیت پاسخ برای کارشناس منابع انسانی ممکن است با کارمند تازه‌وارد متفاوت باشد. نمره کلی به‌تنهایی جزئیات شکست را پنهان می‌کند.
موارد ناموفق را طبقه‌بندی کنید: سند پیدا نشده، سند کهنه بوده، پرسش مبهم بوده، پاسخ بیش از حد قطعی بوده یا دسترسی نادرست اعمال شده است. هر دسته به راهکار متفاوت نیاز دارد؛ بازنویسی دستور مدل نمی‌تواند سند منسوخ یا مجوز ناقص را اصلاح کند. پس از تغییر منبع یا تنظیمات، نمونه‌های حساس را دوباره اجرا کنید. نتایج و تغییرات را ثبت کنید تا تیم بداند چرا یک پاسخ عوض شده است. این فرایند ارزیابی مستمر، بخشی از مالکیت سامانه است و نباید تنها به مرحله خرید محدود شود.
کاربرد را با سطح ریسک متناسب کنید
می‌توان کاربردها را از پیش‌نویس کم‌ریسک تا تصمیم اثرگذار دسته‌بندی کرد. خلاصه جلسه یا پیشنهاد ساختار یک متن داخلی ممکن است با بررسی کاربر استفاده شود؛ اما تصمیم درباره صلاحیت، پرداخت، حقوق، قرارداد یا دسترسی نباید بدون روندهای لازم و مسئول انسانی به خروجی مدل متکی باشد. برای هر کاربرد، مالک نتیجه، راه تشخیص خطا، امکان اصلاح و مسیر جایگزین مشخص کنید. اگر کارکنان نتوانند منبع نتیجه را بررسی کنند یا خطا را گزارش دهند، استفاده عملی دشوارتر می‌شود و احتمال پذیرش بی‌چون‌وچرای پاسخ بالا می‌رود.
برای استفاده روزمره، به کارکنان بگویید چه اطلاعاتی نباید در ابزارهای عمومی وارد کنند. اطلاعات مشتری، داده مالی یا اسناد محرمانه را بدون ارزیابی سیاست سرویس و مجوزهای سازمان ارسال نکنید. خروجی مدل را به‌عنوان پیش‌نویس علامت‌گذاری کنید و مشخص کنید چه کسی مسئول بازبینی آن است. همچنین درباره ثبت ورودی‌ها و نگهداری مکالمه از ارائه‌دهنده سؤال کنید. ابزار مناسب فقط بر مبنای کیفیت پاسخ انتخاب نمی‌شود؛ امکان کنترل دسترسی، مدیریت داده، یکپارچگی با سامانه‌های موجود و روش خروج از سرویس نیز در تصمیم نقش دارد.
از آزمایش محدود به بهره‌برداری مسئولانه برسید
یک گروه کوچک و کاربرد مشخص انتخاب کنید و در دوره آزمایشی حجم و نوع پرسش‌ها را محدود نگه دارید. بازخورد را با نمونه پاسخ، زمان صرف‌شده، موارد ارجاع و گزارش خطا جمع‌آوری کنید. اگر پاسخ به یک سؤال ساده‌تر شده ولی کارکنان برای اصلاح آن وقت بیشتری می‌گذارند، هدف تحقق نیافته است. نسخه‌های سند و تنظیمات را ثبت کنید و برای توقف یا بازگشت به مسیر دستی برنامه داشته باشید. هزینه نگهداری، بازبینی محتوا و پشتیبانی را نیز در کنار هزینه اشتراک یا پردازش در نظر بگیرید.
در ادامه، مالک هر مجموعه دانش باید بازبینی دوره‌ای انجام دهد و کارکنان راهی روشن برای گزارش سند قدیمی یا پاسخ نادرست داشته باشند. یک راهنمای کوتاه استفاده، نمونه‌های مجاز و محدودیت‌های سامانه را توضیح می‌دهد. هوش مصنوعی مولد می‌تواند لایه‌ای برای دسترسی بهتر به دانش باشد، اما جایگزین نظم اسناد، کیفیت فرایند و پاسخ‌گویی سازمان نیست. برای بررسی معماری مناسب‌تر و مسیرهای اتوماسیون می‌توانید از صفحه هوش مصنوعی و اتوماسیون کسب‌وکار دیدن کنید و بحث را از مسئله واقعی سازمان آغاز کنید.