Тъй като изкуственият интелект преминава отвъд експериментите и навлиза в основните бизнес операции, фокусът на индустрията се измества от това какви модели могат да генерират към това дали техните резултати могат да бъдат разбрани, проверени и използвани отговорно, казаха експерти.
Промяната идва, тъй като все повече компании интегрират AI в ключови работни процеси, което прави прозрачността, проследимостта и човешкия надзор все по-важни в бизнес среди с високи залози.
Wang Lifei, експерт по AI в предприятието, чиито изследвания се фокусират върху работния процес и дизайна на интерфейса, каза, че надеждният AI трябва да се разглежда не само като технически проблем или проблем със съответствието, но и като предизвикателство за проектиране, ориентирано към човека.
„В корпоративните настройки доверието не се изгражда, като AI звучи по-уверено“, каза Уанг. „Идва от това да помогне на потребителите да разпознаят структурата, да разберат несигурността и да се намесят, когато е необходимо.“
Изследването на Wang, представено на 33-тата международна конференция за потребителско моделиране, адаптиране и персонализиране и ACM/IEEE Human Robot Interaction 2025, предлага два механизма, предназначени да направят системите с изкуствен интелект по-видими и приложими за корпоративна употреба.
Единият е интерфейс на дървото на възлите, който позволява на потребителите да проследяват, преразглеждат и реорганизират по-ефективно генерираните от AI изходи, адресирайки ограниченията на стандартните взаимодействия в стил чатбот при работа със сложни задачи. Другият е интерфейс за оценка на доверието, който подчертава нивата на сигурност и техните допринасящи фактори, позволявайки на потребителите да преценят по-добре кога даден изход може да се вярва, кога изисква проверка и кога остава необходим човешки преглед.
Резултатите от проучванията на Wang показват измерими подобрения на ниво интерфейс. Подходът на дървото на възлите надмина стандартните взаимодействия с чатботове в проучвателни и ориентирани към вземане на решения задачи, докато дизайнът за оценка на доверието доведе до повече препоръки, основани на доказателства.
Експерти казаха, че констатациите отразяват по-широка промяна в приемането на AI в предприятията, като вниманието се премества отвъд възможностите на модела към отговорно вземане на решения, ефективна човешка намеса и по-надеждно внедряване в мащаб.
Благодарение на chinadaily.com.cn
Моля, посетете:
Нашият спонсор
като това:
като Зареждане…
Нашия източник е Българо-Китайска Търговско-промишлена палaта