Warunkowanie instrumentalne

Z Wikipedii, wolnej encyklopedii
Skocz do: nawigacja, szukaj
Diagram warunkowania instrumentalnego.

Warunkowanie instrumentalne (ang. operant conditioning) inaczej instrumentalne – forma uczenia się. Ze względu na przebieg, między innymi aktywność uczącego się, należy oddzielić od warunkowania klasycznego, w którym uczący się pozostaje bierny.

Jako pierwszy zjawisko odkrył i opisał Jerzy Konorski. Do najbardziej znanych psychologów zajmujących się tą problematyką należą: B. F. Skinner, Edward Tolman oraz Edward Thorndike, który wprowadził termin prawo efektu opisujący relację między zachowaniem a następującą po nim konsekwencją. Istota warunkowania sprawczego polega na modyfikowaniu częstości zachowania poprzez stosowanie kar i nagród, co wpływa na prawdopodobieństwo wystąpienia danego zachowania.

Zarówno kary jak i nagrody mogą mieć charakter pozytywny lub negatywny.

Rys historyczny[edytuj | edytuj kod]

Thorndike i prawo efektu[edytuj | edytuj kod]

Warunkowanie instrumentalne, nazywane też warunkowaniem sprawczym,pierwotnie było badane przez Edwarda L.Thorndike(1874-1949),który obserwował zachowanie kotów starających się wydostać z sporządzanych przez niego skrzynek problemowych. Początkowo koty po raz pierwszy umieszczone w skrzyńce problemowej potrzebowały dużo czasu na to,żeby z nich się wydostać. Póżniej, gromadząc doświadczenie,nieadaptacyjne zachowania kotów nieprowadzące do satysfakcjonującego rezultatu były przejawiane coraz rzadziej, a częstość zachowań skutkujących pożądanym wynikiem zwiększała się i zwierze potrzebowało coraz mniej czasu, żeby odnaleźć rozwiązanie. W prawie efektu Thorndike założył, że reakcja wzmocniona osiągnięciem pożądanych skutków podnosi prawdopodobieństwo ponownego wystąpienia tej reakcji w przyszłości, lecz zachowania prowadzące do niepożądanych konsekwencji zmniejszają prawdopodobieństwo pojawienie się takich zachowań w przyszłości. Precyzyjując,niektóre skutki wzmacniają reakcje, a niektóre je hamują/wygaszają.

Większość  ludzkich działań jest zdeterminowana poprzez procedurę warunkowania sprawczego. Często warunkowanie sprawcze nie jest ukierunkowane bezpośrednio na to, żeby kogoś uwarunkować, lecz mimo to jednak zachodzi w sposób pośredni. Warunkowanie sprawcze to naturalna technika nauczania, która jest stosowana od tysięcy lat, aczkolwiek nie było szczegółowo badane przed eksperymentami Thorndike’a na początku XX wieku.

Skinner[edytuj | edytuj kod]

Za twórcę procedur warunkowania instrumentalnego przyjmuje się B.F. Skinner’a, uważał on, że czynnikami najsilniej wpływającymi na zachowanie są jako konsekwencje, czyli to, co następuje bezpośrednio po zachowaniu. Jednak nie był on pierwszym psychologiem, który zwrócił na koncepcję nagród i kar uwagę. Swoją ideę Skinner zapożyczył od Edwarda Thorndike’a, który w swoich eksperymentach nad zwierzętami zwrócił uwagę na prawo efektu. Bazując na wynikach Thornidke’a – Skinner oczyścił je z subiektywnych i nienaukowych spekulacji na temat uczuć, zamiarów czy celów organizmu. Jako radykalny behawiorysta, Skinner odrzucił myślenie o tym, co dzieje się w psychice danego organizmu, ponieważ nie możliwe było to do sprawdzenia podczas obserwacji.

Technikę wzmacniania Skinner opracował przy użyciu „komory sprawczej” zwanej również skrzynką Skinner'a, w której znajdowała się dźwignia przy naciśnięciu której zwierzę otrzymywało pokarm. Jej główną zaletą była możliwość kontrolowania układu wzmocnień, czasu i częstości występowania, które to czynniki wywierają znaczny wpływ na zachowanie. Sporządzono było również maszyna, która produkowała wykresy raportowe. Wykresy te były głównymi danymi, z których Skinner i jego wspólpracownicy korzystali. Na podstawie owych wyników wyprowadzono wniosek, że proces wzmacniania można zopercjonalizować jako jakąkolwiek procedurę,która dostarcza orgnizmowi wzmocnienia według szczegółowej i sprecyzowanej reguły. Istotę zjawiska wzmocnienia można określić w tym, że jakakolwiek rekacja,która zostanie wzmocniona ma tendencje do powtarzania się. Natomiast reakcje, które nie zostały w żaden sposób wzmocnione mają tendencję do stopniowego zaniku reakcji, czyli wygaszania.

Procedury i narzędzia[edytuj | edytuj kod]

Do procesu kształtowania [zachowania] konieczna jest obecność konsekwencji jakimi są wzmocnienia i kary występujące w zbieżności z danym zachowaniem. Występują również bodźce poprzedzające, które stanowią sygnał dla organizmu by wykonać wcześniej wyuczoną reakcje. Kary i wzmocnienia wpływają na pojawienie się pożądanego zachowania.

  • Czynnik wzmacniający- każdy bodziec, którego pojawienie się w zbieżności z zachowaniem, zwiększa prawdopodobieństwo pojawienia się danej reakcji w przyszłości. Wzmocnienie oznacza podanie czynnik wzmacniającego po wystąpieniu danej reakcji.
  • Czynnik karzący- każdy bodziec, którego pojawienie się w zbieżności z zachowaniem, zmniejsza prawdopodobieństwo pojawienia się danej reakcji w przyszłości. Karanie oznacza podanie czynnika karzącego po wystąpieniu danej reakcji.

"Pozytywność" i "negatywność" to pojęcia odnoszące się do obecności bądź nieobecności bodźca apetytywnego lub awersyjnego.

  • Pozytywność- wiąże się z obecnością bodźca apetytywnego bądź awersyjnego
  • Negatywność- wiąże się z nieobecnością bodźca apetytywnego bądź awersyjnego

Dodadkową procedurą związaną z warunkowaniem sprawczym jest proces wygaszania reakcji.

  • Wygaszanie- pojawia się gdy zaprzestanie się podawania wzmocnienia. W miarę coraz rzadszego podawania wzmocnień (bądź to negatywnych lub pozytywnych) reakcje systematycznie zaczyna wygasać, aż w końcu całkowicie zanika. W przypadku wzmacniania sporadycznego reakcja jest znacznie bardziej odporna na wygaszanie.

Cztery podstawowe konsekwencje warunkowania sprawczego:

1.  Wzmocnienie pozytywne- polega na podaniu bodźca apetytywnego po danym zachowaniu co zwiększą prawdopodobieństwo jego ponownego wystąpienia. Potocznie nazywane jest nagrodą.

2.  Wzmocnienie negatywne- polega na usunięciu bodźca aweryjnego po danym zachowaniu.

3.  Karanie pozytywne- polega na podaniu bodźca awersyjnego po danym zachowaniu co zmniejsza prawdopodobieństwo jego ponownego wystąpienia.

4.  Karanie negatywne- polega na odebraniu bodźca apetytywnego po danym zachowaniu.

Inne pojęcia i procedury związane z warunkowaniem sprawczym[edytuj | edytuj kod]

  • Warunkowanie ucieczki- rodzaj uczenia się w którym zastosowanie ma wzmocnienie negatywne. Jest to nauka reakcji przez organizmu, która powoduje ustanie działania bodźca awersyjnego. Dla przykładu: osoba uczy się otwierać parasol podczas burzy by uniknąć nieprzyjemnego bodźca jakim jest deszcz.
  • Warunkowanie unikania- drugi rodzaj uczenia się w którym zastosowanie ma wzmocnienie negatywne. Jest to nauka reakcji przez organizm, która nastawiona jest na zapobieganie działania bodźca awersyjnego zanim się pojawi. Dla przykładu:  samochód jest wyposażony w irytujący dźwięk przypominający o zapięciu pasów, by uniknąć dźwięku osoba uczy się je zapinać zanim pojawi się brzęczyk.
  • Rozkłady wzmacniania- różne reguły podawania wzmocnienia sporadycznych. Występują w dwóch formach: rozkłady stosunkowe oraz rozkłady interwałowe.

1.  Rozkłady stosunkowe

a)  Rozkłady wzmacniania według stałych proporcji- wzmocnienie podaję się po wykonaniu przez osobę ustalonej liczby reakcji. Dla przykładu: można podawać wzmocnienie co 10 prawidłowo wykonanych reakcji.

b)  Rozkłady wzmacniania według zmiennych proporcji- wzmocnienie podaję się po pierwszej reakcji, która pojawi się po zmiennej liczbie reakcji, której średnia jest z góry ustalona. Taki rozkład wzmocnień daję najlepsze rezultaty- najszybsze tempo reagowania oraz największą odporność na wygaszanie. Przykładem tutaj mogą być wzmocnienia dostarczane przez gry hazardowe.

2.  Rozkłady interwałowe

a) Rozkłady wzmacniania o stałych odstępach czasowych- wzmocnienie podaję się po pierwszej reakcji, która się pojawi po upływie ustalonego czasu od poprzedniego wzmocnienia. Dla przykładu: wzmocnienie może być podawane co 10 minut, reakcje występujące między tym czasem nie są wzmacniane. Zwykle powoduje niskie tempo reagowania.

b) Rozkłady wzmacniania o zmiennych odstępach czasowych- wzmocnienie podaję się po pierwszej reakcji, która pojawi się po upływie z góry ustalonej przeciętnej długości czasu od poprzedniego wzmocnienia. Przykładowo, odstęp czasowy można ustalić 30 sekundowy, następnie 3 minutowy a potem 1 minutowy.

  • Bodźce dyskryminacyjne- bodziec który sygnalizuje wzmocnienie oraz kiedy określone zachowanie przyniesie w rezultacie wzmocnienie pozytywne. Organizm uczy się w obecności jakich bodźców jego zachowanie będzie miało z danym prawdopodobieństwem określony wpływ na środowisko. Bodźce te sygnalizują warunki do pojawienia się bądź nie danej reakcji. Przykładowo osoba nauczona reakcji na światło zielone oznaczające pozwolenie do jazdy nie reaguje w ten sam sposób na każde światło a jedynie na zielone.
  • Generalizacja- zjawisko, polegające na rozszerzaniu reakcji powstałej w wyniku warunkowanie na inne bodźce podobne do bodźca dyskryminacyjnego. Przykładowo reakcja została uwarunkowana w obecności zielonego światła i występuje zarówno przy świetle jasno zielonym jak i ciemno zielonym.

Wzorce związków między zachowaniem a wzmocnieniem[edytuj | edytuj kod]

Czyli ustalenie związków między reakcją, a zmianami w sytuacji, które następują po tej reakcji.

Możliwe sposoby łączenia reakcji z czynnikami wzmacniającymi[edytuj | edytuj kod]

Wzmocnienia ciągłe jest to typ rozkładu wzmocnień, w którym wzmacnianie są wszystkie poprawne reakcje. Użyteczny sposób na początku procesu uczenie się, ponieważ pojawiająca się nagroda za poprawną reakcję i jej brak za niepoprawną są informacją zwrotną. Znajduje on też zastosowanie w procesie kształtowania- technika uczenia się sprawczego, która prowadzi do pojawienia się nowych zachowań, poprzez wzmacnianie reakcji podobnych do reakcji pożądanej( np. nauka czytania w szkole). Negatywną stroną tego rozkładu jest, fakt, że każde, jednorazowe nienagrodzenie pozytywnej reakcji, prowadzi do interpretacji, że jest ona reakcją niepoprawną. Ponadto wraz z coraz większym nasyceniem organizmu nagrodami, maleje ich moc sprawcza. Wzmocnienia sporadyczne zwane także wzmocnieniem częściowym jest to typ rozkładu wzmocnienia, w którym wzmacnianie są niektóre, lecz nie wszystkie reakcje poprawne, stosowany, gdy pożądana reakcja została już dobrze wyuczona. Taki rozkład wzmocnień jest najskuteczniejszym sposobem na podtrzymania wyuczonych wcześniej zachowań. Jego zaletą jest odporność na wygaszanie czyli proces, w którym wyuczona reakcja zostaje osłabiona, ze względu na brak wzmocnień. Wzmocnienie sporadyczne może przebiegać w dwóch głównych formach w rozkładzie stosunkowym i rozkładzie interwałowym. Rozkład stosunkowy to taki program , w którym nagroda pojawia się po jakiejś liczbie poprawnych reakcji. Można wyróżnić dwie subkategorie w obrębie tego konstrukt: rozkłady wzmocnień według stałych proporcji, gdzie wzmocnienie pojawia się po pewnej niezmiennej liczbie poprawnych reakcji oraz rozkłady wzmocnień według zmiennych proporcji, gdzie liczba reakcji potrzebnych do uzyskania wzmocnienia zmienia się z próby na próbę. Druga możliwą formą są rozkłady interwałowe, gdzie pojawianie się wzmocnienia zależy od czasu, jaki upłyną od ostatniego wzmocnienia. Istnieją dwie formy takiego rozkładu. Pierwszą z nich są rozkłady wzmocnienia o stałych odstępach czasowych, gdzie nagroda pojawia się po upływie stałego czasu. Drugą zaś są rozkłady wzmocnienia o zmiennych odstępach czasowych, w których wzmocnienie pojawia się po pewnym czasie, który zmienia się z próby na próbę.

 Czynniki wpływające na efektywność warunkowania[edytuj | edytuj kod]

Gdy używamy konsekwencji – karania lub nagradzania – do modyfikowania reakcji podmiotu, to efektywność działania może być podwyższona lub obniżona przez wiele czynników:

  1. Deprywacja. Efektywność zachowania będzie zredukowana, jeśli „apetyt” jednostki dla danego źródła stymulacji będzie zaspokojony. Przeciwny efekty wystąpi, gdy jednostka zostanie pozbawiona danego bodźca i wtedy efektywność wzrośnie.
  2. Bezpośredniość. To jak bezpośrednio i jak szybko występuje zachowanie po działaniu bodźca determinuje jego efektywność. Gdy za przekroczenie prędkości dostanie się mandat tydzień po zdarzeniu jest to mniej efektywne jako karanie, niż gdyby dostało się ten mandat od razu po wykroczeniu.
  3. Niepewność.Gdy konsekwencja nie występuje zawsze po zachowaniu, to efektywność tego zachowania może być zredukowana i odwrotnie – gdy konsekwencja wystąpi zawsze po zachowaniu, to efektywność zachowania może wzrosnąć. Schemat wzmocnień, jeżeli jest konsekwentny, to prowadzi do szybszej nauki. Jeżeli jednak jest zmienny, to nauka jest wolniejsza.
  4. Bilans. Bilans zysków i strat wpływa na efektywność zachowania. Jeśli stosunek tego bilansu jest wystarczający duży, by zachowanie było warte wysiłku, to będzie one bardziej efektywne.

To jak istotne są te czynniki jest zależne od różnych biologicznych powodów. Przykładowo, celem deprywacji jest zachowanie homeostazy organizmu – gdy organizm jest pozbawiony cukru, to efektywność poszukiwania jego źródła jest większa niż gdyby organizm nie potrzebował danej substancji. Ponadto bezpośredniość i niepewność istnieją dzięki reakcjom neurochemicznym. Gdy organizm doświadcza nagradzającego bodźca, to ścieżki dopaminergiczne są aktywowane w mózgu, co pozwala niedawno pobudzonym synapsom na zwiększenie swojej wrażliwości na sygnały eferentne, a więc zwiększa też prawdopodobieństwo wystąpienia reakcji organizmu. Te reakcje mogą być odpowiedzialne za sukcesywne osiąganie wzmocnień.

Uczenie się unikania[edytuj | edytuj kod]

Polega na utrwalaniu się pewnego zachowania, dzięki któremu możliwe jest uniknięcie awersyjnego bodźca.

Można wyodrębnić dwa rodzaje warunkowania unikowego:

  • czynne/aktywne – organizm uczy się jak zareagować aby uniknąć bodźca awersyjnego
  • bierne – nauka powstrzymywania się od reagowania

Klasyczne badania ukazujące uczenie się unikania przeprowadzano na szczurach umieszczonych w labiryncie. Zwierzęta te musiały nauczyć się sposobu reagowania, który pozwoliłby im zapobiec porażeniu prądem.

Uczenie się awersji do smaku[edytuj | edytuj kod]

Przykładem silnie ewolucyjnego mechanizmu opartego na warunkowaniu unikania jest uczenie się awersji do smaku. W przypadku wystąpienia objawów zatrucia po spożyciu danego pokarmu, zwierzęta uczą się unikać tego konkretnego pożywienia. Awersja do smaku, w porównaniu do innych mechanizmów uczenia się, jest zjawiskiem szczególnym. Zostaje wyuczona w konsekwencji tylko jednorazowego kontaktu z bodźcem awersyjnym i wystąpienie jej możliwe jest nawet w przypadku długiej przerwy między spożyciem pokarmu a wystąpieniem objawów. Co więcej, jest oporna na wygaszanie.

Bibliografia[edytuj | edytuj kod]

  • Colman, A.M. (2009). Słownik psychologii. Wydawnictwo Naukowe PWN: Warszawa
  • Gerrig, R.I., Zimbardo, P. G. (2009). Psychologia i życie. Warszawa: Wydawnictwo Naukowe PWN.
  • Konorski J., Integracyjna działalność mózgu, Warszawa 1969
  • Zimbardo, P. G., Johnson, R. L., & McCann, V. (2010). Psychologia: kluczowe koncepcje. Motywacja i uczenie się. Warszawa: Wydawnictwo Naukowe PWN.

Zobacz też[edytuj | edytuj kod]