З уведенням терміна “знання” з'являється властивість “усвідомлювати”, тобто “розуміти” свої інтелектуальні можливості. У свою чергу це означає не що інше, як рефлексію.

Рефлексія

як одна зі складової інтелектуальної діяльності

Поняття рефлексії

Дослідження в області штучного інтелекту виникли під впливом ідей кібернетики - насамперед ідеї спільності процесів керування і передачі інформації в живих організмах, суспільстві і комп'ютерах. Примітно, що зняття ідеологічних заборон на кібернетику в період “відлиги” спричинило за собою бурхливий розвиток досліджень по кібернетиці, і та її область, що згодом була усвідомлена як проблематика створення систем штучного інтелекту, сформувалася особливо швидко.

Цікаво відзначити, що реабілітація кібернетики і, зокрема, проблеми штучного інтелекту (або як тоді говорили, створення “мислячої маші”) аж ніяк не була сполучена з загальним процесом деідеологізації науки. “Виправдання” кібернетики відбулося стараннями декількох великих учених, що щиро доводили матеріалістичний характер кібернетичного погляду на світ. Слідом за вченими цю задачу взяли на себе професійні філософи.

Філософська прийнятність проблематики штучного інтелекту в її традиційному виді була обумовлена лежачої в її основі представленням про те, що “порядок і зв'язок ідей ті ж, що порядок і зв'язок речей”. Тим самим створити в комп'ютері структуру, що відтворює “світ ідей”, означало означало попросту створити структуру ізоморфну структурі речовинного світу, тобто побудувати “електронну модель світу”. Ця модель інтерпретувалася як комп'ютерна модель людських знань про світ. Процес людського мислення інтерпретувався в комп'ютері як машинний пошук таких трансформацій моделі, що повинні були перевести комп'ютерну модель у якийсь фінальний стан (наприклад, матову позицію в шахах).

Для цього система штучного інтелекту мала потребу в знаннях про те, як здійснювати трансформації станів моделі, що приводять до заздалегідь заданої мети - станові з визначеними властивостями. На початку було поширене переконання в принциповій здатності комп'ютера до самостійного дослідження моделі, що зберігається в ньому, тобто до самонавчання стратегії досягнення поставленої мети.

Дана гіпотетична здатність інтерпретувалася як можливість машинної творчості, як основа створення майбутніх “мислячих машин”. І, хоча в реально розроблялися системах досягнення мети здійснювалося на основі людського досвіду за допомогою алгоритмів, заснованих на теоретичному аналізі створюваних моделей і результатів проведених на них експериментів, ідеї побудови самонавчальних систем многим здавалися найбільш перспективними. Лише до 80-му року була усвідомлена значимість проблеми використання в інтелектуальних системах людських знань про дійсність, повлекшая серйозну розробку баз знань і методів витягу особистих знань експертів.

З розвитком вивчення даного напрямку виникла ідея рефлексивного керування. До цього моменту в кібернетику керування розглядалася як передача об'єктові сигналів, що безпосередньо впливають на його поводження, а ефективність керування досягалася за допомогою зворотного зв'язку - одержання інформації про реакції керованого об'єкта. Рефлексивне ж керування - є передача інформації, що впливає на наявний в об'єкта образ світу. Тим самим зворотний зв'язок зайва - стан суб'єкта відомо передавальну інформацію.

Цікавими виявилися комп'ютерні моделі, у яких успіх досягався за рахунок включення рефлексії про протидіючі наміри партнерів.

Філософська традиція називає рефлексією думка про думці, тобто ситуацію, коли предметом думки виявляється не річ, а факт мислення. Св. Хома Аквінський визначав рефлексію як “думку, що доганяє думку”.

Сам факт рефлексії означає, що діяльність людської свідомості аж ніяк не обмежується створенням моделей, що відтворюють (“отражающих”) зовнішню дійсність. Рефлексія - думка суб'єкта про наявному в нього образі дійсності, тобто критичний образ цього образа, що припускає оцінку створюваних в уяві моделей. Класична парадигма штучного інтелекту ігнорує дана обставина і тому не цікавиться рефлексією. Імовірно, що таке ігнорування зв'язане з існуючим поглядом на рефлексію як на критичний сумнів, що заважає послідовному проведенню ефективних дій. Класична парадигма штучного інтелекту припускала наявність твердого целеполагания, тобто ясної і не підлягаючому сумнівові мети, досягнення якого означає рішення проблеми незалежно від використовуваних засобів (якщо остання обставина не суперечить основним принципам побудови самої інтелектуальної системи). У системі з розвитий рефлексією мета також може виявитися предметом критичної рефлексії. Людина, здатний до глибокої рефлексії, не може бути абсолютно цілеспрямованим, тому що він здатний засумніватися в беззастережній цінності поставленій перед ним мети.

Традиційні системи штучного інтелекту засновані на ідеології целеориентированного поводження типу шахової гри, де ціль обох партнерів полягає в тому, щоб поставити мат іншому ціною будь-яких жертв. Не випадково саме шахові програми виявилися настільки важливими для відпрацьовування методів штучного інтелекту.

Невід'ємність рефлексії

Чи варто вважати рефлексію невід'ємною частиною систем штучного інтелекту? Інакше кажучи - чи належний “мислячий” апарат розуміти, що він мислить, і контролювати цей процес?

Відповіддю з технічної точки зору може служити наступне. Як і будь-яка комп'ютерна програма, наділена засобами самодіагностики і самовиправлення (а такі засоби вже стають стандартному), тобто засобами підвищення надійності, системи штучного інтелекту повинні контролювати процеси, що відбуваються - як зовнішні, так і внутрішні. Однак, може показатися, що в цьому змісті буде достатнім просто розвита структура зворотних зв'язків. Відразу треба обмовитися, що під зворотним зв'язком варто розуміти тільки відповідну реакцію (або одержання інформації про неї) після якоїсь конкретної дії системи. Зворотний зв'язок лише надає дані, інформацію, але ні в якій мері не інтерпретує них. Норбертом Вінером у книзі “Кібернетика, або керування і зв'язок у тварині і машині” були приведені приклади порушень нервової системи людей і їхніх наслідків. Так люди з порушенням системи орієнтації власних кінцівок у просторі (не почувають своїх рук і ніг, випадок, коли кінцівки “німіють”) повинні були візуально контролювати свої дії.