Се жалиме дека Chat GPT е погрешен, но вистината е поинаква: Поставуваме погрешни прашања, а еве како да го поправиме тоа

Брзото инженерство, термин кој сигурно ќе добие на значење во иднина, е процес на дизајнирање и оптимизирање на прашања за вештачка интелигенција, со цел да се добијат прецизни, релевантни и корисни одговори.

Поентата е да се формулира барањето на начин што ќе му овозможи на моделот јасно да разбере што се бара од него и да обезбеди квалитетен одговор.

Всушност, брзото инженерство ви помага да го добиете токму она што ви треба од вештачката интелигенција.

„Брзото инженерство е процес на оптимизација на барањата сè додека не се добие посакуваниот одговор од моделот на вештачка интелигенција. Во контекст на вештачката интелигенција, брзото инженерство е важно бидејќи ги подобрува перформансите на големите јазични модели без потреба од модифицирање на самиот модел“, изјави за eKapija Тихомир Опачиќ, консултант за вештачка интелигенција и софтверски инженер со повеќе од 25 години искуство.

Клучните компоненти на добар потсетник, според Опачиќ, вклучуваат јасни инструкции, контекст, доделување специфична улога на моделот, барање за форматирање, тон и примерен одговор.

„Компоненти како што се јасни упатства и контекст се од суштинско значење за добивање квалитетни одговори“, додава Тихомир.

Тој објаснува дека големите јазични модели имаат ограничено знаење, особено за неодамнешните настани.

„Техниките како што се Retrieval Augmented Generation (RAG) и имплементацијата на AI агенти можат да им помогнат на моделите да пристапат до тековните податоци и да обезбедат точни одговори“, вели тој.

Овие техники им овозможуваат на моделите да користат надворешни извори на податоци како контекст, со што се зголемува точноста и релевантноста на одговорите.

„Брзиот инженеринг е важен за сите професии кои интензивно користат големи јазични модели“, објаснува Тихомир.

Тој додава дека професиите кои бараат висока прецизност, како што се програмерите, маркетерите, банкарите и техничката поддршка, имаат најголема корист од тоа.

Каде грешиме?

Најчестите грешки што луѓето ги прават кога зборуваат со големи јазични модели се недоволно јасни инструкции, т.е. јасни инструкции и обезбедување недоволни количини на податоци.

„Луѓето потоа паѓаат во стапицата да му укажуваат на моделот дека направиле грешка, на што моделот обично се извинува за грешката, а потоа повторно дава незадоволителен одговор формулиран на малку поинаков начин. Поголемиот дел од незадоволителните одговори на моделот можат да се решат со обезбедување поширок контекст и појасни упатства“, вели Опачиќ.

Посложените проблеми бараат употреба на понапредни техники како што се поттикнување со малку истрели, поттикнување со синџир на мисли, поттикнување со дрво на мисли и други техники на брзо инженерство, вели тој.

Брзото инженерство ќе стане уште поважно во иднина

Опачиќ вели дека во последните девет месеци, врз основа на одговорите на новите верзии на главните јазични модели како што се OpenAI GPT 4o и Anthopic Claude 3.5, гледаме дека техниките за брзо инженерство се користат во самите основни модели за дополнително подобрување на квалитетот на нивните одговори.

Како што забележува тој, сè уште е важно ние, како корисници на овие системи, да имаме добро познавање на техниките за брзо инженерство, за да можеме лесно да препознаеме ситуација во која можеме да добиеме значително подобри одговори со малку труд.

Во иднина, можеме да очекуваме дека самиот модел, преку разговор, ќе нè наведе да користиме некои од ефикасните техники за брзо инженерство, без ние, како корисници, дури и да бидеме свесни дека ова се случува, а сето тоа со цел да се подобри квалитетот на одговорот, тврди Опачиќ.

Компјутерските научници, додава тој, продолжуваат да спроведуваат истражувања низ целиот свет откривајќи нови техники за брзо инженерство, додека честопати наоѓаат инспирација во техниките што се развиени за подобрување на продуктивноста кај нас луѓето.

„Кога набљудуваме разговори со големи јазични модели, на крајот е многу корисно да се повлече паралела со разговорите што ги водиме со луѓето. Ако делегираме работна задача на човек или модел, ако не обезбедиме доволно квалитетни информации и инструкции, делегираната задача нема да биде извршена добро“, заклучува експертот. (trn.mk)