Split, 2006. Mentor: prof dr sc. Vladimir Jurić


Cilj i problemi istraživanja



Yüklə 406,77 Kb.
səhifə9/13
tarix06.02.2018
ölçüsü406,77 Kb.
#25859
1   ...   5   6   7   8   9   10   11   12   13

2.2.Cilj i problemi istraživanja


Važnost grupnog rada svakim je danom sve veća jer zbog rastućeg broja informacija u različitim strukama timski rad postaje nužan. Stjecanje kompetencija za takav način rada tijekom školovanja važno je za život. U svjetskoj literaturi mogu se pronaći rezultati različitih istraživanja grupnog rada, no u Hrvatskoj je takvih radova vrlo malo i uglavnom su stari. U našoj nastavnoj praksi grupni rad sedamdesetih je godina prošlog stoljeća bio prihvaćen s velikim entuzijazmom, no iako vrijednosti grupnog rada nisu osporavane, to oduševljenje nije dugo potrajalo. Postojeća literatura govori u prilog grupnom radu (indirektna nastava prenesena učenicima) i njegovoj primjeni u nastavi, no kod nas se u nastavnoj praksi grupni rad malo koristi i često nedosljedno idealnoj zamisli o strategiji njegove provedbe. To pridonosi i negativnom stavu učenika prema ovom načinu rada.

Nastavnici kao čest razlog neprimjene grupnog rada navode nedovoljno znanje koje na taj način stječu učenici. Pri tome se zaboravlja na sve kompetencije koje bi učenici trebali steći, a one nisu samo usvajanje činjeničnog znanja. I kod učenika možemo očekivati određene poteškoće kod uvođenja grupnog rada jer sami nisu navikli aktivno sudjelovati u nastavi, već su uglavnom pasivni promatrači i sakupljači gotovih podataka.

Zbog svega dosad navedenog osnovni problem našeg istraživanja bio je stječu li grupnim radom učenici u nastavi biologije bolje kompetencije nego frontalnim modelom rada. Cilj ovog istraživanja je prikupiti konkretne podatke o kompetencijama koje učenici stječu grupnim radom u usporedbi s kompetencijama stečenim frontalnim radom (direktna nastava). Ispitivanjem stavova učenika, prije i nakon istraživanja, želimo zabilježiti i kakav je njihov stav o ovom načinu rada. Možda je i grupni rad koji aktivnije uključuje učenike u nastavni proces dio rješenja da prirodoslovni predmeti postanu omiljeniji kod učenika. Upravo zato važno je usporediti znanja koja učenici stječu različitim modelima rada, ali i njihovo zadovoljstvo tim radom. Zanimalo nas je koliko je grupni rad danas stvarno prisutan i kakvi su stavovi samih učitelja prema tom obliku nastave, te kakvi su stavovi učenika. Ovim istraživanjem željeli smo pridonijeti boljem sagledavanju mogućnosti primjene grupnog rada, tj. kooperativnog učenja u nastavi biologije. Stoga je istraživanje i provedeno uz što manje ometanja prirodnosti nastavne situacije.

Iz tog cilja istraživanja proizlaze sljedeće hipoteze:



  • samostalniji rad učenika u grupnom radu pozitivno utječe na stjecanje znanja, oblikovanje stavova, razvoj vještina i socijalnih kompetencija

  • samostalniji rad učenika u grupnom radu pozitivno utječe na zadovoljstvo učenika u nastavi biologije,

  • grupni rad vrlo se malo koristi u nastavi biologije,

  • veće zadovoljstvo učenika motivira ih na bolju uključenost u rad što u konačnici utječe na kvalitetu i trajnost znanja,

  • grupni rad više pridonosi promjenama kompetencija kod prosječnih i slabijih učenika,

  • grupni rad daje jednake rezultate kod učenika obaju spolova,

  • većina nastavnika smatra da učenici grupnim radom ne stječu dovoljno znanja,

  • većina nastavnika smatra da nema dovoljne kompetencije za kvalitetno provođenje grupnog rada u nastavi biologije.


2.3.Metodologija istraživanja

2.3.1.VRSTA ISTRAŽIVANJA


U istraživanju nastavnih procesa često se susrećemo s istraživanjima koja teško možemo svrstati u samo jednu vrstu. Tako se i ovo istraživanje može definirati na više načina. Ono svakako pripada empirijskom istraživanju jer se metodološki zasniva na provedbi pedagoškog eksperimenta i na prikupljanju podataka iz neposrednog odgojno-obrazovnog rada. Upravo zbog načina prikupljanja informacija, ali i zbog praktične svrhe, možemo govoriti i o operativnom ili primijenjenom istraživanju. Kako središnje mjesto zauzima upravo eksperiment, koji se samo prema potrebi nadopunjuje drugim metodama, možemo govoriti o kauzalnom postupku istraživanja. Možemo ga svrstati i u razvojno istraživanje jer se bavi konkretnim problemom stjecanja znanja u nastavi biologije primjenom novih ili poboljšanih modela nastave i to na temelju znanstvenog istraživanja s jedne, i praktičnog iskustva s druge strane. S obzirom na sudjelovanje autora u pripremi i realizaciji istraživanja može se nazvati i akcijskim istraživanjem koje je još jedna varijanta razvojnih istraživanja (Mužić, 1999.). Iako se akcijskim istraživanjima često predbacuje velika elastičnost nacrta istraživanja i blaža kontrola, te stoga manja objektivnost, mi smo se u provođenju istraživanja pokušali pridržavati što strože kontrole kako bismo zadržali potrebnu objektivnost.

Istraživanje se provodi bez promjene uobičajenog ritma nastave, rasporeda, programa i dodatnog angažiranja učenika izvanškolskim obvezama, kako bi se dobili rezultati koji govore o adekvatnost i efikasnosti grupnog rada u svakodnevnoj nastavnoj praksi. Ne dolazi do promjene nastavnika čime se zadržava prirodnost nastavnog procesa što je kao uvjet postavio još Lay (Kocić,1981.).

Glavni izvor podataka u našem istraživanju je upravo eksperiment u kojem je namjerno izazvana promjena s ciljem da se ispita efikasnost tog utjecaja (Mužić, 1986.). Eksperiment je primarno znanstveno istraživačko sredstvo koje nam omogućuje da u kontroliranim uvjetima provjerimo odnos zavisnih i nezavisnih varijabli. Pri tome se mogu koristiti četiri glavne metode koje prema Millu služe za izvođenje eksperimentalnog dokaza. To su metoda slaganja, metoda razlike, zajednička metoda slaganja i razlike i metoda zajedničkog variranja (Milas, 2005.).

Primijenjen je eksperimentalni model koji Campbell i Stanley nazivaju «pravim», a Kerlinger «dobrim» (prema Cohen, Marion, 1989.), s izjednačenim paralelnim skupinama u kojima se postupak provodi istovremeno po shemi K-klasični rad, E- eksperimentalni rad. Taj osnovni model eksperimenta ima paralelne skupine od kojih je svaka nositelj svog eksperimentalnog faktora. Simultano se radi s obje grupe ispitanika. Kod statističke obrade rezultata polazi se od analize varijance. Budući da u obje grupe djeluje neki eksperimentalni faktor, možemo ih obje zvati eksperimentalnim (Mužić, 1986.), dok Milas grupu u kojoj se provodi standardni natavni oblik rada naziva kontrolnom grupom standardnog tretmana. U našem slučaju koristit ćemo se oznakama eksperimentalna (E) za one kod kojih se provodi grupni rad, a kontrolna grupa (K) za one koje koriste frontalni rad.

Početnom ekvivalentnošću obje grupe postiže se bolja mogućnost usporedbe eksperimentalnih faktora. Ekvivalentnost se može postići izjednačavanjem statističke reprezentativnosti grupa npr. centralnom tendencijom ili standardnom devijacijom. Može se vršiti i uparivanje ispitanika pojedinačno ili u male skupine tzv. „podgrupe“. Često je jedini način usklađivanja grupa eliminacija rezultata pojedinih članova grupa čime se smanjuje ukupna brojnost uzorka. Nakon toga se rezultati usklade prema aritmetičkoj sredini i raspršenosti. Kod istraživanja utjecaja nastavnih postupaka preporuka je da se izjednače predznanje i opća mentalna sposobnost jer one u najvećoj mjeri pridonose usvajanju gradiva (Mužić, 1986.).

Kao prednosti eksperimenta s paralelnim grupama Mužić navodi nemogućnost međudjelovanja eksperimentalnih faktora jer oni djeluju simultano u paralelnim grupama, nema razlike u nastavnoj građi koju rade skupine kao ni razlike u primjeni instrumenata jer se koriste isti instrumenti. Istodobno se javljaju i poteškoće kao što je velik broj varijabli koje treba kontrolirati u inicijalnom stanju, smanjenje broja ispitanika kod ostvarivanja ekvivalentnosti skupina, te pojava novih parazitarnih faktora tijekom provedbe eksperimenta. Prema broju i rasporedu grupa eksperiment se može provesti s jednom grupom kod koje se uvodi više eksperimentalnih faktora, s paralelnim grupama i s rotacijom faktora kod grupa. Odlučili smo se za rad s paralelnim grupama jer je provediv uz najmanje organizacijske poteškoće, svi instrumenti mogu se paralelno koristiti, nema razlike u vremenskom zbivanju pa se stoga isključuje niz parazitskih faktora, dok se neki od navedenih nedostataka mogu prevladati upotrebom modernih statističkih metoda.

Smatramo da smo, iako se u provođenju našeg eksperimentalnog istraživanja težilo očuvanju prirodnosti uvjeta u nastavi, predvidjeli dovoljno dobre kontrole varijabli da možemo govoriti o pravom eksperimentu, a ne „kvazieksperimentu“ (prema Milas, 2005.)

2.3.2.DEFINIRANJE UZORKA


U svakom istraživanju nedvojbeno je važna reprezentativnost i nepristranost uzorka. Ciljna populacija u našem istraživanju bili su učenici drugih razreda gimnazije. Naš uzorak spada u ne-probabilistički uzorak. Činjenica je da probablilistički uzorci imaju prednost pred ne-probabilističkim uzorcima, no oni se, ipak, u mnogim istraživanjima koriste. Njihov najveći nedostatak je to što zbog nemogućnosti određivanja vjerojatnosti izbora neke osobe u uzorak ne možemo tvrditi kolika je njegova reprezentativnost, a time i nepristranost. Time se smanjuje mogućnost uopćavanja zaključaka koji će proizaći iz istraživanja.

Istraživanje je provedeno u Gimnaziji u Čakovcu. U eksperimentalnom dijelu sudjelovale su dvije nastavnice biologije i 238 učenika drugog razreda gimnazije. Učenici su slučajnim odabirom podijeljeni u dvije skupine. Kontrolnu skupinu čine 139 učenika, a eksperimentalnu skupinu 99 učenika. Ograničavajući faktor bila je težnja da u obje skupine budu prisutne obje nastavnice. Nakon ovakve podjele na skupine, daljnje usklađivanje uzorka obavljeno je izjednačavanjem prema nezavisnim varijablama (dob, spol, predznanje, intelektualne sposobnosti, ocjena iz predmeta) koje bi osim eksperimentalne varijable koju pratimo, dodatno mogle utjecati na zavisne varijable koje pratimo.

Izjednačavanje dviju grupa uzorka temelji se na podacima prikupljenim Ravenovim progresivnim matricama (provodi psiholog), spolu, godinama, dosadašnjoj ocjeni iz biologije, kao i prema predznanju koje se ispituje testom Zavoda za školstvo za 7. razred osnovne škole kada su učenici učili slične sadržaje. Ujednačavanje se može provesti izjednačavanjem statističkih reprezentativnih vrijednosti ili određivanjem parova ispitanika. Druga metoda češće se koristi samo kod dvije paralelne skupine kao što imamo u našem istraživanju. Uparivanje se može vršiti i u manjim podgrupama unutar svake skupine. O tim postupcima ekvivalencije nije poželjno govoriti ispitanicima. Bez obzira na način ujednačavanja skupina, doći će do eliminacije pojedinih učenika, a time i smanjivanja brojnosti učenika u uzorku. Bez obzira na ekvivalenciju uzorka cjelokupni eksperiment u našem istraživanju proveli smo s cijelim razredima bez izdvajanja pojedinaca čiji se rezultati zbog ekvivalencije uzorka možda kasnije neće koristiti u istraživanju. Druga mogućnost za ujednačavanje uzorka bila bi izmjena učenika između razreda. To nije moguće izvesti jer bi samo po sebi bilo izvor novog parazitarnog faktora.

Nakon ekvivalencije skupina po statističkim pokazateljima (standardne devijacije, aritmetičke sredine i raspršenosti rezultata) pokazalo se da ni uparivanje, ni eliminiranje pojedinih rezultata nije bilo potrebno, osim kod onih učenika koji zbog bolesti nisu bili testirani u svim fazama istraživanja. Zbog toga je od početnog uzorka za daljnje razmatranje ostalo je 227 učenika, u kontrolnoj skupini 134 učenika i u eksperimentalnoj skupini 93 učenika.

Osim navedenog uzorka za eksperimentalni dio, proveli anketu o grupnom radu smo kod svih učenika gimnazije u Čakovcu kako bismo dobili bolji uvid o tome što o toj vrsti rada u nastavi misle učenici. Također, proveli smo i anketu srednjoškolskih nastavnika biologije i u tu svrhu ispitali smo 120 nastavnika. Oni su anketirani na seminarima za nastavnike tako da se opet radi o prigodnom uzorku. Nedostatak ovako izabranog uzorka nastavnika je što obično na stručno usavršavanje dolaze nastavnici koji su i inače više zainteresirani za poboljšanje svog rada u nastavi pa stoga nisu sasvim reprezentativan uzorak. Usprkos tome, da će nam sliku o stavovima nastavnika prema grupnom radu u nastavi biologije.

2.3.3.DEFINIRANJE VARIJABLI


U svakom eksperimentu razlikujemo postupak i učinke određenog postupka. Ono što želimo proučiti je upravo njihova međusobna ovisnost. Obje vrste postupaka su promjenjive, bilo kvalitativno, bilo kvantitativno, pa ih nazivamo varijable. U eksperimentu je važno razlikovati nezavisnu ili eksperimentalnu varijablu i zavisnu varijablu. Nezavisnom varijablom eksperimentator može direktno upravljati. Važno je da ta varijabla djeluje na zavisnu varijablu čije je promjene moguće mjeriti (Mužić, 1986., Milat, 2005.).

Ono što će mjenjati ove kompetencije je nezavisna varijabla koju možemo kontrolirati, a to je u našem slučaju metoda rada. Ova se nezavisna varijabla u našem eksperimentu pojavljuje u dva oblika, grupni rad i frontalni rad, te se ispituje njihovo djelovanje na zavisnu varijablu. Kako ona ima samo dva oblika, govorimo o kvalitativnim ili kategorijalnim varijablama. Način na koji u našem istraživanju upravljamo nezavisnom varijablom je eksperimentalna manipulacija u kojoj je svakoj skupini učenika u eksperimentu na raspolaganju samo jedna metoda rada.

Zavisna varijabla je ona koju možemo mjeriti pa je stoga kriterij ili standard prema kojem se procjenjuje rezultat eksperimenta. U našem eksperimentu kao zavisnu varijablu definirali smo kompetencije učenika koje stječu tijekom provođenja eksperimenta. Te kompetencije su uspjeh učenika, razumijevanje obrađenog gradiva i osposobljenost učenika za rješavanje problema, te zadovoljstvo učenika nastavom biologije. Uspjeh učenika, razumijevanje sadržaja i osposobljenost učenika za rješavanje problema mjerili smo zadacima objektivnog tipa, dok zadovoljstvo nastavom biologije učenici sami procjenjuju u anketi.

Unutarnja valjanost govori o tome koliko su promjene uočene tijekom eksperimenta stvarno posljedica manipulacije nezavisnom varijablom. Tu je prije svega važno utvrditi vanjske faktore koji bi mogli utjecati na zavisnu (mjerenu) varijablu. Povijest i sazrijevanje spadaju u one prijetnje unutarnjoj valjanosti koje se učinkovito isključuju korištenjem kontrolne grupe. Učinak testiranja može se mijenjati ako koristimo više puta isti mjerni instrument, no i taj učinak se može isključiti uvođenjem kontrolne grupe. U našem testiranju korišteni su testovi velike podudarnosti tzv. paralelne forme istog instrumenta za prvo i drugo mjerenje. Oni su usklađeni u preliminarnom istraživanju. Instrumentacija može mijenjati zavisnu varijablu ako se tijekom eksperimenta mijenjaju metričke karakteristike instrumenata. Stoga je poželjno instrumente doraditi prije početka provedbe eksperimenta, ali ova pojava može se ukloniti iz rezultata opet uvođenjem kontrole jer su joj tada obje skupine izložene bez razlike i bez utjecaja na rezultat.

Statistička regresija, koja se javlja zbog niza vanjskih faktora na koje nikako ne možemo utjecati, može se ukloniti osiguramo li da ona podjednako djeluje u kontrolnoj i eksperimentalnoj skupini, a to možemo postići jednakim načinom izbora ispitanika. Oba testiranja vršili smo u isto vrijeme kod svih učenika kako bismo djelovanje vanjskih faktora što je moguće više izjednačili.

Kod izbora ispitanika kriterij je bio slučajan izbor razreda, a sami učenici u razrede su raspoređivani po slučajnom odabiru i nevezano uz provođenje ovog eksperimenta. Budući da se radi u školskim uvjetima i u relativno kratkom razdoblju nije došlo do osipanja ispitanika.

Iako su učenici znali da su dio eksperimenta, nisu bili upoznati s njegovim ciljevima kako to ne bi utjecalo na njihove stavove. Ipak, može se pretpostaviti da se kod obje skupine javio natjecateljski duh, no taj je čimbenik mogao podjednako djelovati na obje skupine ispitanika.

Konstruktna valjanost odnosi se na tumačenje biti uzročne veze u eksperimentu. Čemu točno pripisati promjene koje su nastale. Jedna od prijetnji konstruktnoj valjanosti je jednostruka operacionalizacija kod koje premali broj pokazatelja ugrožava rezultate. Npr. kod konstrukcije testa za ispitivanje usvojenosti znanja izbor tipova pitanja mogao bi djelovati na taj način. Zbog toga se kod izrade ovih instrumenata vodilo računa da budu podjednako zastupljeni svi tipovi pitanja koji traže različite razine i vidove učeničkog znanja. Jedna od opasnosti koja je ostala u eksperimentu je malen broj predavača, tj. samo dva predavača. Tako bi na rezultat mogla utjecati kvaliteta predavača. Ovaj propust opravdavamo željom da se održi što prirodnija situacija u razredima koji se ispituju pa se stoga nisu mijenjali postojeći predavači. Razlika se nastojala izbjeći zajedničkim planiranjem i vrlo podrobnim pripremama oba nastavnika kako bi se ujednačile kontrolna i eksperimentalna skupina. Na taj su se način htjele izbjeći razlike u kvaliteti predavača i uskladiti pažnja i odnos oba nastavnika prema ispitanicima u obje skupine. Obje skupine podjednako su bile upoznate da sudjeluju u eksperimentu, što je podjednako moglo rezultirati strahom od vrednovanja i očekivanja eksperimentatora. Učenici se u nastavnoj praksi uobičajeno nalaze u situacijama testiranja tako da to za njih nije nova situacija koja je vezana isključivo za istraživanje. Kako je cijeli praktični dio trajao veći dio školske godine, vrlo je vjerojatno da to ipak nije dugoročno djelovalo na ponašanje učenika tijekom eksperimenta.

Vanjska valjanost je stupanj u kojem se rezultati dobiveni u eksperimentu mogu proširiti na veću populaciju i drugačije uvjete od onih u kojima su dobiveni.

U eksperimentu pratimo djelovanje samo jedne varijable (zakon jedne varijable) što je i prema Millu nužni uvjet u pedagoškom eksperimentu. U našem primjeru eksperimentalna varijabla je oblik rada u nastavi. On se varira kao eksperimentalni faktor 1 (grupni rad) čiju efikasnost želimo provjeriti. Kod kontrolne skupine radimo frontalnim radom (eksperimentalni faktor 2). Ostale okolnosti su varijable čije djelovanje želimo eliminirati ili neutralizirati (tzv. parazitarni faktori) kao što su dob učenika, spol, prethodni uspjeh učenika (u predmetu), predznanje, kvocijent inteligencije. Koristili smo niz instrumenata pomoću kojih smo usklađivali uzorak za naš instrument na taj način da maksimalno smanjimo djelovanje parazitarnih faktora. I neki statistički postupci, kao što su analiza varijance i analiza kovarijance, omogućuju statističku kontrolu ostalih faktora u eksperimentu (Mužić, 1986.).


2.3.4.IZVORI POGREŠAKA


Što se tiče subjekata istraživanja kao parazitarni faktori mogu se javiti predznanje, opća mentalna sposobnost, spol, dob, marljivost učenika, introvertiranost i ekstrovertiranost i socijalno podrijetlo učenika. No naš uzorak je usklađen što se tiče predznanja, opće mentalne sposobnosti, spola i dobi. Marljivost učenika, introvertiranost i ekstrovertiranost i socijalno podrijetlo učenika nisu uzeti u obzir tijekom izbora uzorka i ekvivalencija grupa, tako da ti faktori i dalje mogu biti izvori pogrešaka (Mužić, 1986.). Smatramo, da ti izvori pogrešaka neće značajno utjecati na rezultate našeg istraživanja.

Od izvora pogrešaka do kojih dolazi između grupa, važno je istaći, da su usklađeni uvjeti u prostorijama (zračnost, osvjetljenje, broj učenika, veličina) kod svih grupa. Sve grupe radile u isto doba dana, a što se tiče dana u tjednu i rednog broja sata postojale su manje razlike, ali jednom u korist jedne, a drugi puta u korist druge grupe, tako da možemo reći da ne bi trebao postojati značajan utjecaj ovih faktora. U vezi s nastavnicama koje su sudjelovale u eksperimentu pokušalo se međusobnim sudjelovanjem u pripremi materijala za oba tipa nastave maksimalnom suradnjom i usklađivanjem parazitski faktor svesti na minimum. Izvor pogrešaka zbog mjesta ili vremena ponavljanja eksperimenta u našem je istraživanju izbjegnut je jer se ono provodi kontinuirano samo u jednoj školi za potrebe ovog rada.


2.3.5.DEFINIRANJE I IZRADA MJERNIH INSTRUMENATA

2.3.5.1.Rad na pedagoškoj dokumentaciji


Za prikupljanje podataka smo, ako je to ikako bilo moguće, koristili pedagošku dokumentacija (dosje učenika). Tako smo nastojali da način prikupljanja podataka bude što je manje moguće optruzivan za ispitanike. Uvidom u pedagošku dokumentaciju došli smo do podataka o spolu, dobi i ocjeni iz biologije u 7. razredu osnovne škole.

2.3.5.2.Instrumenti za inicijalno ispitivanje predznanja


Inicijalno ispitivanje predznanja prije provedbe samog eksperimenta trebalo nam je za ujednačavanje uzorka dviju eksperimentalnih skupina. Za to inicijalno ispitivanje predznanja koristili smo već postojeće zadatke objektivnog tipa koji se primjenjuju u osnovnoj školi, u sedmom razredu, kad se obrađuju sadržaji slični onima koji su obuhvaćeni našim eksperimentom. S obzirom na svrhu ovog testiranja, sam instrument nije dodatno usklađivan.

Tijekom testiranja u učionici su bile obje nastavnice koje sudjeluju u provođenju istraživanja. Ispitanicima su dane kratke upute o izgledu i načinu ispunjavanja testa.

Test se sastoji od 30 zadataka od kojih je 14 zadataka višestrukog izbora, 10 zadataka nadopunjavanja, 4 zadatka dvočlanog izbora i 2 zadatka uspoređivanja i sparivanja. Ukupan broj bodova je 30. Učenici su test rješavali u jednom školskom satu, bez posebne najave i priprema za test, jer njime smo željeli utvrditi njihovo prethodno znanje o protoktistima.

2.3.5.3.Instrumenti za ispitivanje usvojenosti znanja


Provedena su dva finalna mjerenja, jedno neposredno nakon obrade gradiva izabrane cjeline carstvo protoktista, a drugo s odgodom od 3 mjeseca. Za oba kontrolna mjerenja koriste se instrumenti velike podudarnosti tzv. paralelne ili ekvivalentne forme istog instrumenta. Upotreba takvih instrumenata nužna je i tijekom korištenja u razredu kako bi se izbjegle mogućnosti prepisivanja tijekom provedbe samog testiranja, ali i za kontrolno testiranje kako uspješnost rješavanja testa ne bi bilo posljedica ponovnog korištenja istog testa. Te instrumente bilo je potrebno izraditi za ovo istraživanje. S obzirom na to da ne postoje standardizirani testovi, mjerne karakteristike pripremljenih zadataka objektivnog tipa ispitali smo tijekom preliminarnih istraživanja dijelom na učenicima čakovečke Gimnazije tijekom 2004./2005. godine, a dijelom na učenicima druge škole (Gimnazija Fran Galović iz Koprivnice) kako bi se barem do određene mjere provelo baždarenje.

Pri izradi ovih instrumenata vodilo se računa o podudaranju s nastavnim programom i kurikulomom koji propisuje MZOS. U prvoj fazi izrade testa nije bilo teško odrediti sadržaje koje će on obuhvatiti jer se radilo isključivo o sadržajima koji su obrađeni u okviru eksperimenta tj. U nastavnoj cjelina Protisti (Bačić i drugi, 2003.).

Posebna pozornost u izradi ovog instrumenta posvećena je izboru tipova pitanja. Kako smo kod definiranja kompetencija koje želimo mjeriti naveli važnost različitih nivoa znanja prema Bloomovoj taksonomiji, tako je i kod izrade ovog instrumenta bilo važno da on sadrži pitanja kojima se upravo sve navedene kompetencije mogu mjeriti. Tako je nakon prve eliminacije pitanja sastavljen test koji je kao sondažni oblik primijenjen na učenicima trećih razreda. Nakon dobivenih rezultata i analize svakog pojedinog zadatka prema relativnoj težini i diskriminacijskoj vrijednosti sastavljen je test koji je još jednom ispitan na učenicima drugih razreda tijekom preliminarnog istraživanja, a nakon dodatnih korekcija, na učenicima druge škole.

U prvom dijelu instrumenta nalaze se pitanja dosjećanja u kojima su učenicima ponuđeni odgovori dok je druga skupina zadataka tipa nadopunjavanja. U obje skupine traži se poznavanje i prisjećanje informacija na razini interpretacije. Treća skupina zadataka kroz razvrastavanje i povezivanje traži i razumijevanje sadržaja. U četvrtu skupinu spadaju pitanja u kojima uz slikovni materijal učenici moraju povezati, razvrstati, razjasniti pojmove što zahtijeva daljnji stupanj znanja (primjena i analiza). Posljednja dva zadatka postavljena su kao problemski zadaci u kojima učenici moraju imati vlastite ideje i na temelju naučenog zaključiti, procijeniti situaciju i na taj način pokazati najviši stupanj znanja.

Iako je jasno da se ne radi o pravim testovima zbog jednostavnije terminologije u ostatku rada za ove instrumente koristi se izraz testovi. Da bi test imao željene karakteristike, njegova konstrukcija događa se u nekoliko faza koje obuhvaćaju odabir i sastavljanje pitanja ili zadataka i provjeru njihovih karakteristika na skupinama ispitanika. Dio takve provjere zadataka je analiza čestica kojom se utvrđuje težina zadataka, vjerojatnost odabiranja distraktora umjesto ispravnog odgovora u zadacima višestrukog izbora, faktorska struktura testa i slično.

Da bi se mogao koristiti kao mjerni instrument, test mora imati sljedeće karakteristike: pouzdanost, valjanost, objektivnost, osjetljivost i baždarenost.

Objektivnost testa je karakteristika koja omogućava nezavisnost testovnih rezultata od pristranosti ispitivača i njihove subjektivnosti. Ukoliko je test objektivan, rezultati u testu bit će potpuno jednaki bez obzira na to tko ocjenjuje ili primjenjuje test. Dakle, postoje točno utvrđeni načini bodovanja testa kao i uvjeti primjene testa.

Osjetljivost testa je karakteristika testa da razlikuje ispitanike prema sposobnosti koju mjeri. Što je test osjetljiviji, moguće je finije međusobno razlikovanje ispitanika na temelju rezultata koje postižu u testu.

Baždarenost testa znači da su testovni rezultati usporedivi s normama, odnosno da je moguće odrediti kakav je rezultat, u odnosu na populaciju, pojedinac postigao u testu.

Pouzdanost je osobina testa da u ponovljenim mjerenjima daje iste ili slične rezultate. Što je pouzdanost veća, veća je nezavisnost testa od nesistematskih izvora pogrešaka. Mjera pouzdanosti testa je koeficijent pouzdanosti koji se izračunava kao omjer varijance pravog rezultata i varijance pogreške. Dobiva se koreliranjem testa sa samim sobom (test-retest metoda) ili izračunavanjem korelacija među paralelnim formama istog testa (metoda ekvivalentnih formi). Pouzdanost tipa unutarnje konzistencije koja pokazuje međusobnu konzistentnost dijelova testa može se odrediti metodom raspolavljanja testa (split-half metoda) ili preko interkorelacija među česticama.

Osim o testu, pouzdanost ovisi i o uvjetima testiranja. Tako, na primjer, nerazumijevanje testovnih uputa ili frustriranost ispitanika smanjuju pouzdanost testa.

Pouzdanost smo odredili slaganjem parnih i neparnih pitanja tijekom preliminarnog istraživanja (min.0,8 ili 0,9) (Mužić 1999.). Prema formulaciji pitanja, tj. odgovora različitost ocjenjivača je smanjena na minimum.

Kod provođenja baždarenja određivana je težina pojedinih pitanja i tako usklađen broj težih, srednjih i lakih pitanja. Težina pitanja određuje se nakon sondažne primjene testa tako da se ukupni broj točnih odgovora podijeli s brojem ispitanika na testu. Optimalna teškoća pitanja (MCQ) izračuna se iz formule P=0,5+0,5(1/n). Općenito se pitanja ispod 0,3 smatraju preteškim, a iznad 0,7 prelaganim. No, postoje razlike ovisno o tipu pitanja. Tako za pitanja dvočlanog izbora optimalna teškoća je 0,75, a raspon od 0,65 do 0,85. Za pitanja s tri distraktora najbolja MCQ je 0,67, s četiri distraktor 0,63, a s pet distraktora je MCQ 0,60. No, i prelagana pitanja imaju svoje opravdanje ako ih stavimo na sam početak testa iz psiholoških razloga. Indeks diskriminacijske vrijednosti pojedinačnih pitanja računa se tako da se ispitanici(X) podijele u dvije skupine tzv. „loša“donja trećina (27%) i „dobra“ gornja trećina (27%). Za svako pitanje prebroji se broj točnih odgovora u lošoj i u dobroj skupini i izračuna se indeks prema formuli:

Diskriminativnost = 2(D-L)/X

Pitanje je bolje što je diskriminativnost veća. Izvrsna pitanja imaju diskriminativnost iznad 0,35, dobra su do 0,25, između 0,25 i 0,15 su još prihvatljiva, a ona ispod 0,1 treba izbaciti i test ponovno vrednovati bez njih. Drugi način za mjerenje diskriminativnosti je izračunavanje koeficijenta biserijalne korelacije (PBCC ili poin biserial correlatio coefficiente). Tako dobijemo korelaciju učestalosti točnog odgovora na neko pitanje i ukupnog rezultata ispitanika. Zbog toga što uzimamo u obzir sve rezultate ukupnog broja ispitanika, ovaj je pokazatelj bolji od jednostavnog omjera diskriminativnosti (www.carnet.hr/referalni/obrazovni/spzit/pismni/teorija/analize). Baždarenje se može provesti i na temelju centila i decila ili prema „standardiziranom odstupanju“ gdje se radi o udaljenosti pojedinog rezultata od aritmetičke sredine reprezentativnog uzorka ispitanika u jedinicama standardne devijacije (Milas 2005., Mužić1986.).

Test je istovremeno proveden kod svih razreda koji sudjeluju u istraživanju kako bi se izbjeglo djelovanje parazitarnog faktora izmjene pitanja među ispitanicima. U tome je sudjelovao veći broj nastavnika koji su dobili jednake upute za ispitanike, kratko im je obrazložen izgled i način rješavanja testa. Učenicima je na raspolaganju bilo vrijeme jednog školskog sata.


2.3.5.4.Ankete za učenike o grupnom radu


Anketa kojom želimo ispitati stavove (predkoncepte) učenika prema grupnom radu u nastavi prije provedbe instrumenta provodi se sa svim učenicima škole koji su u našem slučaju prigodni uzorak. Prema tipovima tvrdnji naša anketa je slična skali sudova u kojoj je većina tvrdnji napisana tako da od učenika traži da se s određenom tvrdnjom suglasi na ponuđenoj petodijelnoj Likertovoj skali pri čemu 1 označava potpuno neslaganje, a 5 potpuno slaganje s ponuđenom tvrdnjom. Tvrdnje se odnose na korisnost oblika nastave (frontalni ili grupni rad). U zadnja tri pitanja tvrdnje su oblikovane na drugačiji način. Sva pitanja u anketi bila su zatvorenog tipa što omogućuje lakšu obradu i interpretaciju rezultata. Pri izradi ovog instrumenta neka su pitanja formulirana tako da uspoređivanjem odgovora možemo otkriti dosljednost (ili nedosljednost) odgovora ispitanika.

Istovjetni mjerni instrument primijenit će se ponovno samo kako bi se provjerili koliko je sustavno provođenje grupnog rada pridonijelo promjeni stavova i mišljenja učenika. U ovom slučaju grupa u kojoj se nije radilo grupnim radom služi kao kontrola u punom smislu riječi kako bi se vidjelo je li i kod njih, unatoč neprovođenju ovakvog oblika nastave, došlo do promjene stava zbog nekog faktora koji nismo uzeli u obzir.

Kako je kratkoća bitan uvjet uspješnosti ankete, vodili smo računa o njezinoj duljini i načinu ispunjavanja tako da ne zahtijeva više od desetak minuta za ispunjavanje.

Iako se kod anketiranja najčešće koriste anonimne ankete kako bi se na taj način pokušali izbjeći neiskreni odgovori, no kako smo u našem slučaju željeli povući korelacije s drugim instrumentima, za dio ispitanika koji su ujedno i ispitanici u eksperimentu, anketa nije bila anonimna, dok su ostali učenici anketu ispunjavali anonimno. Velik utjecaj na iskrenost ispitanika u anketi mogla je dati dobra komunikacija i povjerenje ispitanika prema ispitivačima.


2.3.5.5.Ravenove progresivne matrice


Pomoću standardiziranih progresivnih Ravenovih matrica dobili smo podatak o sposobnostima učenika što nam je bio jedan od važnijih kriterija u ekvivalenciji grupa za uzorak u eksperimentu. Samo istraživanje, kao i analizu dobivenih rezultata, provodi psiholog. Testiranje je provedeno tijekom mjeseca listopada 2005. godine. U tu svrhu ispitanici su podijeljeni u manje skupine i testirani su u istom prostoru i to u vrijeme 1. i 2. sata poslijepodnevne smjene.

Za Ravenove matrice odlučili smo se nakon konzultacija s psiholozima. Prema njihovom iskustvu ovaj se test često primjenjuje u praksi i u različitim istraživanjima pa je tako moguće uspoređivati rezultate. Osim toga, test je neverbalan i time isključuje potrebu za bilo kakvim školskim znanjima u njegovom rješavanju. Još jedna od njegovih prednosti je brzina provođenja s obzirom na to da se standardno provodi s vremenskim ograničenjem od 20 minuta za ispitanike. Također, vrlo je jednostavan za ispravljanje i za interpretaciju rezultata tako da je potrebno puno manje vremena za njegovu obradu za razliku od nekih drugih testova. Osim toga dovoljno je osjetljiv za potrebe ovog istraživanja.


2.3.5.6.Anketa za nastavnike o primjeni grupnog rada u nastavi biologije i stavovima nastavnika o grupnom radu


Kako bismo utvrdili koliko je grupni rad u nastavi biologije prisutan u hrvatskim srednjim školama pripremili smo i anketu za nastavnike biologije. Na taj način stekli smo uvid koliko se ovaj oblik rada koristi u nastavi biologije u srednjim školama, kakav je stav nastavnika prema njemu i koliko se oni sami smatraju kompetentnim i osposobljenim za njegovo provođenje.

Anketu smo proveli tijekom prvog polugodišta školske godine 2005/2006. na uzorku profesora biologije u srednjim školama. Uzorak je izabran kao prigodan jer su uključeni profesori koji su prisustvovali seminarima iz biologije tijekom tog razdoblja kao i na aktivu profesora Varaždinske, Međimurske i Koprivničko- križevačke županije. Ukupni uzorak je 70 profesora. Anketa je kratka i od ispitanika zahtjeva vrlo malo vremena. Sastoji se od devet pitanja čiji su odgovori ponuđeni u obliku petodjelne skale Likertovog tipa gdje 1 označava uopće ne ili slabo, a 5 potpuno ili odlično. Posljednja dva pitanja u anketi otvorenog su tipa tako da nastavnici sami mogu navesti što smatraju najvećim prednostima i nedostacima ove metode rada.


2.3.6.PROVOĐENJE ISTRAŽIVANJA


Faze i vremenik istraživanja:

Preliminarno istraživanje provedeno je tijekom školske godine 2004./2005.

Početak istraživanja: rujan, 2005. godine


  • podjela razreda u grupe (rujan, 2005.)

  • informiranje učenika o istraživanju (rujan, 2005.)

  • provođenje inicijalnog testiranja (rujan, 2005.)

  • anketiranje učenika obje skupine o oblicima rada u nastavi biologije (rujan, 2005.)

  • analiza pedagoške dokumentacije (listopad, 2005.)

  • testiranje psihologa Ravenovim matricama (listopad, 2005.)

  • provođenje nastave prema usklađenim pripremama u obje skupine ( listopad i studeni 2005.)

  • kontrolno testiranje (K1), studeni, 2005.

  • ponovno anketiranje eksperimentalne skupine (siječanj, 2006.)

  • nastavak rada u razredima neovisno o ciljevima istraživanja

  • kontrolno testiranje (K2) , ožujak, 2006.

  • anketiranje profesora ( listopad, 2005.).


2.3.6.1.Preliminarno istraživanje


Tijekom školske godine 2004./2005. proveli smo preliminarno istraživanje grupnog rada u četiri druga i tri četvrta razreda čakovečke Gimnazije. Pokusna primjena eksperimentalnih materijala provedena je i u Gimnaziji Fran Galović u Koprivnici. To nam je omogućilo uvid u moguće poteškoće tijekom samog provođenja istraživanja kao i lakšu pripremu instrumenata za istraživanje koje je provedeno 2005./2006. godine. Između ostalog uočeno je da za uspješno provođenje grupnog rada nastava nužno mora biti organizirana u blok satima kako bi bilo dovoljno vremena, ne samo za obradu materijala, već i za izlaganja grupa i zaključak svake teme. U preliminarnom istraživanju učenike smo prvo pripremili za grupni rad kroz radionice u 4 nastavna sata. Učenici su podijeljeni u grupe i to tako da je nastavnik za svaku grupu odredio jednog člana. Taj član bio je prema mišljenju nastavnika jedan od najboljih učenika u razredu tako da je svaka grupa imala barem po jednog takvog učenika. Ostali članovi izvukli su broj svoje grupe slučajnim izborom. Grupe formirane na taj način zajedno su radile tijekom cijele školske godine 2004./2005. Prvi zadatak formiranih grupa bilo je raspraviti o svojim dosadašnjim iskustvima u grupnom radu. Na kraju rasprave svaka grupa pripremila je svoj materijal za izlaganje u obliku postera uz koji je ostalim učenicima obrazložila svoja stajališta o prednostima i nedostacima koje očekuju od grupnog rada u nastavi na temelju svojih dosadašnjih iskustava.

Na osnovi izrađenih postera i izlaganja učenika u sva četiri razreda mogli smo uočiti veliku podudarnost u njihovim odgovorima što upućuje na dosadašnja vrlo slična iskustva s grupnim radom u nastavi.

Od prednosti učenici su uglavnom isticali bolju atmosferu na satu, veću slobodu dok je jedan od glavnih nedostataka bio nedovoljan angažman svih učenika, nerazumijevanje gradiva, buka na satu.

Na kraju školske godine razgovorom s učenicima ponovno su dobiveni njihovi osvrti na grupni rad. Pri tome se može uočiti da je njihov stav izmijenjen i da je veći dio učenika zadovoljniji grupnim radom.



U početku preliminarnog istraživanja grupe su radile na diferenciranim zadacima i na kraju je svaka grupa iznosila svoje izvješće o različitim zadacima. U drugom polugodištu radilo se s identičnim zadacima za sve grupe. Razgovarajući s učenicima zaključili smo kako im više odgovara rad s istovrsnim zadacima kod svih grupa. Učenici su na taj način kao grupa dovedeni u određeni oblik natjecanja i bili zadovoljniji usvojenim znanjem. Kod diferenciranih zadataka učenici su se izjasnili da su bili previše opterećeni vlastitim zadatkom tako da nisu dovoljno pažnje obraćali na izlaganja drugih skupina pa su često bili u situaciji da dio gradiva nije bio dovoljno dobro obrađen u školi i stoga su to morali samostalno nadoknađivati radom kod kuće. Iz tog razloga u daljnjem istraživanju koristili smo rad s istovrsnim zadacima za sve grupe. Tijekom preliminarnog istraživanja 2004./2005. školske godine pripremili smo većinu mjernih instrumenata za kasnije istraživanje. Iako je prvotno bilo zamišljeno istraživanje provesti i na učenicima četvrtih razreda, nakon preliminarnog istraživanja, a i na osnovu rezultata ankete o grupnom radu Ruić R., uočena je izuzetno mala zainteresiranost učenika četvrtog razreda. Oni na neki način smatraju da je njihovo srednjoškolsko obrazovanje pri kraju i nisu zainteresirani za nove oblike rada. Zbog svega navedenog smatram da istraživanje na takvoj skupini učenika ne bi dalo valjane rezultate o grupnom obliku rada. Konačni eksperimentalni rad započeo je u rujnu 2005. godine, a završen je u ožujku 2006. godine zadnjim kontrolnim testom.

2.3.6.2.Aktivnosti tijekom provođenja istraživanja


Na počeku nastavne godine 2005./2006. učenici drugih razreda informirani su o tome da će sudjelovati u pedagoškom istraživanju o oblicima rada u nastavi biologije. Učenici i roditelji upoznati su da će tijekom godine nekoliko puta biti testirani i anketirani u cilju prikupljanja podataka za to istraživanje. S ostalim detaljima i ciljevima istraživanja nisu upoznati kako to ne bi utjecalo na tijek i rezultate istraživanja.

  • Podjela u grupe

U prvoj fazi istraživanja slučajnim odabirom drugih razreda podijelili smo učenike u dvije skupine. U obje skupine nastavu su izvodile dvije nastavnice. Učenicima nisu posebno obrazlagane ove podjele jer su nastavu i dalje normalno provodile nastavnice koje i inače rade u tim razredima.

  • Testiranje sposobnosti

Nakon toga psiholog provodi testiranje sposobnosti učenika standardiziranim Ravenovim progresivnim matricama kako bi se kasnije mogao uskladiti uzorak. Testove je primjenjivao psiholog u skladu s propisima struke kako bi se zadovoljili svi etički kriteriji. S testiranjem su upoznati i roditelji. Rezultati ovih testova poznati su isključivo psihologu i pojedinačno učenicima koji su izrazili želju za tim.

  • Korištenje pedagoške dokumentacije

Dio potrebnih podataka za usklađivanje uzorka dobiven je iz pedagoške dokumentacije učenika, a to su podaci o dobi, spolu i ocjenama iz biologije.


  • Ispitivanja predznanja

Ispitivanje predznanja učenika također je izvedeno prije početka eksperimenta. Za to su korišteni postojeći zadaci objektivnog tipa koji se provode u osnovnoj školi kao kontrolni zadaci za sedmi razred. Testiranje je provedeno u svim razredima istovremeno. Stoga su točno napisane upute koje su prije samog testiranja svim razredima pročitane na jednak način. U tom dijelu u istraživanju je pomoglo nekoliko kolega koji su pripremljeni za ovo testiranje. Ovakav način testiranja primijenjen je kako bi se izbjegla izmjena informacija među učenicima o sadržaju testa. Svi do sada navedeni parametri korišteni su kasnije za usklađivanje uzorka eksperimentalne grupe i kontrolne grupe standardnog tretmana.

  • Anketno istraživanje učenika

Tijekom listopada provedeno je i anketno istraživanje anketiranjem učenika o njihovim stavovima i očekivanjima od grupnog rada. Osim učenika koji čine uzorak, anketirani su i svi ostali učenici škole, ukupno 800 učenika od prvog do četvrtog razreda gimnazije. Anketiranje je provelo dvoje nastavnika tijekom rujna i listopada na satovima razredne zajednice u svim razredima.

Anketiranje nastavnika biologije u srednjim školama proveli smo na nekoliko različitih načina. Dio ispitanika anketiran je u Osijeku u listopadu 2005. godine, tijekom održavanja seminara u organizaciji Zavoda za školstvo. Drugi dio anketiranja proveden je na aktivu nastavnika Međimurske, Varaždinske i Koprivničko-križevačke županije također početkom listopada 2005., dok je dio nastavnika u istom razdoblju anketiran preko e-maila.

  • Eksperiment s usporednim skupinama

U listopadu smo započeli s provođenjm eksperimenta po modelu s dvije paralelne skupine od kojih je svaka nositelj svog eksperimentalnog faktora. Simultano se radi s obje grupe ispitanika kroz ukupno 12 nastavnih sati u kojima se prema unaprijed određenoj formi i redoslijedu obrađuju sadržaji cjeline o protistima. U eksperimentalnoj skupini radi se grupnim radom, dok u kontrolnoj grupi standardnog tretmana koristimo tradicionalnu nastavu s pretežito frontalnim oblikom rada.

Predavači u razredima nisu mijenjani pa tako i u eksperimentalnoj i u kontrolnoj skupini rade iste dvije nastavnice. Nastavnice su uskladile metodički i sadržajno pripreme prema kojima se provodi rad u obje skupine. Kako rad u skupinama zahtijeva pripremljenost učenika za takav oblik nastave, u razredima koji pripadaju eksperimentalnoj skupini u tijeku mjeseca listopada obavljene su pripreme za taj oblik rada, ali na drugim sadržajima kako bi učenici znali što se od njih zahtijeva.

Neposredno nakon obrade nastavne cjeline, u mjesecu studenom, obavljeno je prvo kontrolno testiranje koje je učenicima na jednak način i u isto vrijeme najavljeno. Drugo testiranje obavljeno je početkom ožujka istodobno za sve učenike i to bez posebne najave. Za oba kontrolna mjerenja korišteni su instrumenti velike podudarnosti tzv. paralelne ili ekvivalentne forme istog instrumenta. Oba su testiranja također izvedena u isto vrijeme za sve učenike obje skupine. Nastavnici koji su bili prisutni na testiranju prethodno su poučeni za davanje jednakih uputa.

U ožujku, nakon testiranja, ponovno je provedena i anketa obiju skupina učenika nakon čega je napravljena analiza svih prikupljenih podataka (statistička obrada podataka, kvalitativna, kvantitativna i kauzalna analiza).


2.3.6.3.REALIZACIJA NASTAVE


Kao dio sadržaja iz nastavnog programa drugog razreda gimnazije na kojem je provodeno istraživanje izabrana je cjelina „Protoktisti“. Kontrolirana nastava u sklopu istraživanja praćena je ukupno 12 sati i to tijekom mjeseca listopada i studenog 2005. godine. Sadržaji i pojmovi koji su obrađeni u obje skupine nisu se razlikovali jer su ih dvije nastavnice koje sudjeluju u istraživanju unaprijed uskladile.

U razredima koji su određeni za kontrolnu skupinu od početka nastavne godine 2005./2006 provođena je tradicionalna nastava. Pod tradicionalnom nastavom podrazumijevamo uobičajenu nastavu bez dodatnih usmjeravanja i intervencija. U takvoj nastvi prevladava frontalni oblik rada. Nastava je organiziranana u dva pojedinačna sata tijekom tjedna i provođena je tijekom šest tjedana u listopadu i studenom. U obradi sadržaja koristi se izlaganje nastavnika i vođeni razgovor s učenicima. Nastavnica demonstrira sve praktične radove koji su predviđeni. U prilogu se nalaze pripreme za obrađene nastavne jedinice u sklopu istraživanja.

U eksperimentalnoj skupini prije samog istraživanja i obrade sadržaja cjeline „Protoktisti“ provedene su pripreme učenika za grupni rad. Nakon toga tijekom listopada i studenog učenici su u grupnom radu obradili ovu cjelinu. Nastava je zbog grupnog rada provođena u blok satima (90 minuta) kako bi se stigle provesti sve potrebne faze u radu grupa (od pripreme do evaluacije). Nastava je također trajala šest tjedana tijekom listopada i studenog 2005. godine. U radu u grupama vodilo se računa i o fizičkom rasporedu klupa i učenika. Zadaci za učenika oblikovani su tako da potiču suradnju učenika. Pripreme i dio korištenog materijala nalaze se u prilogu.


Yüklə 406,77 Kb.

Dostları ilə paylaş:
1   ...   5   6   7   8   9   10   11   12   13




Verilənlər bazası müəlliflik hüququ ilə müdafiə olunur ©www.genderi.org 2024
rəhbərliyinə müraciət

    Ana səhifə