thumb|350px|De vier vormen van soortvorming: allopatrische, peripatrische, parapatrische en sympatrische soortvorming. In de biologie zijn reproductieve isolatiemechanismen of barrières voor hybridisatie de reeks kenmerken, gedragingen en fysiologische processen die voorkomen dat leden van twee verschillende soorten elkaar kruisen of met elkaar paren, nakomelingen voortbrengen of ervoor zorgen dat ze levensvatbaar of vruchtbaar zijn. Deze barrières vormen een onmisbare fase in de vorming van nieuwe soorten (soortvorming), opdat ze hun eigen kenmerken in de loop van de tijd behouden en opdat ze de genetische uitwisseling tussen individuen van verschillende soorten verminderen of direct voorkomen.
Er zijn verschillende classificaties van reproductieve isolatiemechanismen voorgesteld. Zoöloog Ernst Mayr heeft ze in twee brede categorieën ingedeeld: precopulatie en postcopulatie mechanismen.
De eerste handeling voordat bevruchting kan plaatsvinden (dat wil zeggen vóór paring in het geval van dieren of bestuiving in het geval van planten). Dergelijke precopulatie mechanismen, ook wel 'externe barrières voor hybridisatie' genoemd, zijn fysieke scheidingen in tijd, ruimte, omgevingen, specifieke ecologische niches en verschillen in gedrag die paring of bestuiving voorkomen.
Postcopulatie mechanismen, of "interne barrières voor hybridisatie", werken daarentegen door het gebrek aan harmonie tussen de fysiologische, reproductieve of cytologische systemen van individuen die tot verschillende soorten of geslachten behoren. De verschillende mechanismen van reproductieve isolatie zijn genetisch gecontroleerd en er is experimenteel aangetoond dat ze kunnen evolueren in soorten waarvan de geografische verspreiding elkaar overlapt (sympatrische soorten), of als resultaat van de adaptieve divergente evolutie die gepaard gaat met hun allopatrische soortvorming.
Isolatiemechanismen vóór paring of precopulatie Isolatiemechanismen die optreden voordat de paring plaatsvindt zijn het meest economisch vanuit het oogpunt van biologische efficiëntie van een populatie, aangezien hulpbronnen niet worden "verspild" bij de productie van nakomelingen die zwak, niet-levensvatbaar of onvruchtbaar kunnen zijn.
Seizoensgebonden- of habitat-isolatie Alle factoren die de ontmoeting van mogelijk parende individuen verhinderen zullen individuen van verschillende soorten reproductief isoleren. Twee soorten barrières garanderen dit soort reproductieve isolatie: verschillen in habitat en verschillen in het seizoen van geslachtsrijpheid of bloei.Levine, L. 1979. Biología del gen. Ed. Omega, Barcelona, .
Een voorbeeld van een ecologisch of habitatverschil dat de ontmoeting van potentiële partners verhindert, is dat van twee vissoorten van het geslacht Gasterosteus. De ene soort leeft het hele jaar door in zoet water, vooral in kleine stroompjes, terwijl de andere soort daarentegen in de winter in zee leeft en in de lente en zomer naar riviermondingen migreert om zich daar voort te planten. Individuen van de twee populaties zijn reproductief geïsoleerd vanwege hun aanpassingen aan verschillende zoutconcentraties.
Een voorbeeld van reproductieve isolatie als gevolg van verschillen in het paarseizoen zijn de paddensoorten Bufo americanus en Bufo fowleri. Individuen van deze soorten kunnen met succes in het laboratorium worden gekruist, waardoor krachtige en vruchtbare hybriden worden verkregen. Dergelijke paringen komen echter niet in de natuur voor, hoewel de geografische verspreiding van beide soorten elkaar overlappen. De oorzaak van deze afwezigheid van interspecifieke paring is dat B. americanus paart in de vroege zomer en B. fowleri doet dit tegen het einde van de zomer. Sommige plantensoorten, zoals Tradescantia canaliculata en T. subaspera zijn bijvoorbeeld sympatrisch in hun gehele geografische verspreiding, maar zijn echter reproductief van elkaar geïsoleerd, omdat ze in verschillende seizoenen bloeien. Bovendien groeit een van de twee soorten in zonnige gebieden en de andere in sterk schaduwrijke gebieden.Strickberger, M. 1978. Genética. Omega, Barcelona, España, p.: 874-879, .Futuyma, D. 1998. Evolutionary biology (3.ª edición). Sinauer, Sunderland.
Seksuele-, prestatie- en gedragsisolatie Verschillende paringsrituelen bij diersoorten creëren extreem krachtige reproductieve barrières, seksuele of gedragsmatige isolatie genoemd, die verwante soorten geïsoleerd houden in de meeste groepen in het dierenrijk. Bij tweehuizige soorten moeten mannetjes en vrouwtjes elkaar zoeken, samen zijn, complexe balts- en paringsrituelen uitvoeren en uiteindelijk hun gameten paren of vrijgeven in de omgeving om bevruchting mogelijk te maken.Wu C.I., Hollocher H., Begun D. J., Aquadro C.F., Xu Y., Wu M. L., Sexual isolation in Drosophila melanogaster: a possible case of incipient speciation, Proceedings of the National Academy of Sciences of the United States of America, 92, 7, 2519–2523, 1995, doi = 10.1073/pnas.92.7.2519, pmid = 7708677 West-eberhard M.J., Sexual Selection, Social Competition, and Speciation, The Quarterly Review of Biology, 58, 2, 155, 1983, doi = 10.1086/413215Mendelson T.C., Sexual Isolation Evolves Faster Than Hybrid Inviability in a Diverse and Sexually Dimorphic Genus of Fish (Percidae: Etheostoma), Evolution, 57, 2, 317–327, 2003, doi = 10.1111/j.0014-3820.2003.tb00266.x
thumb|Geluid van een cicade. De geluiden van vogels, insecten en vele andere dieren maken deel uit van een ritueel om potentiële partners van hun eigen soort aan te trekken. Het geluid presenteert specifieke patronen die alleen herkenbaar zijn voor individuen van dezelfde soort, waardoor het een mechanisme van reproductieve isolatie vormt.
De paringsdansen, het gezang van de mannetjes om de vrouwtjes aan te trekken of het strelen van het paar zijn voorbeelden van typisch baltsgedrag dat, naast het leren kennen van elkaar, reproductieve isolatie mogelijk maakt. Dit komt omdat elk van de fasen van hofmakerij afhankelijk is van het gedrag van de soortgenoot. Het mannetje zal alleen naar een tweede vertoningsfase gaan als het vrouwtje een bepaalde gedragsreactie vertoont en zal pas naar een derde gaan als ze een tweede sleutelgedrag vertoont. Achtereenvolgens worden de gedragingen van beide gecoördineerd, in de tijd gesynchroniseerd en is uiteindelijk bepalend voor de copulatie of het vrijkomen van de gameten in de omgeving. Geen enkel dier dat fysiologisch niet geschikt is voor bevruchting zal in staat zijn deze veeleisende gedragsketen te voltooien. In feite is het kleinste verschil in hofmakingspatronen tussen twee soorten een voldoende voorwaarde om paring te voorkomen. Het specifieke geluidspatroon fungeert bijvoorbeeld als een isolatiemechanisme tussen verschillende soorten kreeften van het geslacht Chorthippus,Perdeck A.C., The Isolating Value of Specific Song Patterns in Two Sibling Species of Grasshoppers (Chorthippus brunneus Thunb. and C. biguttulus L.), Behaviour, 12, 1-2, 1-75. 1958, doi = 10.1163/156853957X00074 en bij krekels van het geslacht Magicicada, waarbij bij gedeeltelijk overlappende soorten het geluid van hun signalen op verschillende frequenties wordt uitgezonden als dergelijke soorten sympatrisch worden.Marshall, D.C. y Cooley, J.R. 2000. Reproductive character displacement and speciation in periodical cicadas, with description of a new species, 13-years Magicicada neotredecim. Evolution 54:1313-1325.
Zelfs als de morfologische verschillen tussen de twee soorten minimaal zijn, kunnen de verschillen in gedrag voldoende zijn om copulatie te voorkomen. Zo worden bijvoorbeeld Drosophila melanogaster en D. simulans beschouwd als tweelingsoorten vanwege hun grote morfologische gelijkenis, maar paren ze niet met elkaar, zelfs niet als ze samen in het laboratorium worden grootgebracht en onderhouden.Casares, P. 2008. Genética de poblaciones y evolutiva. Capítulo 17. Genética del aislamiento reproductivo. Universidad de Oviedo, España. Drosophila ananassae en D. pallidosa zijn ook tweelingsoorten uit Melanesië. In het wild produceren ze zelden hybriden, hoewel het in het laboratorium mogelijk is om vruchtbare nakomelingen te verkrijgen. Uit onderzoek naar hun seksuele gedrag blijkt dat de mannetjes de vrouwtjes van beide soorten het hof maken, maar dat de vrouwtjes een duidelijke voorkeur voor paring met mannetjes van hun eigen soort vertonen. Op chromosoom II van beide soorten is een verschillend regulatiegebied gevonden dat het selectiegedrag van de vrouwtjes beïnvloedt.
Een belangrijke oorzakelijke factor in de seksuele isolatie van insecten-soorten zijn feromonenCoyne J.A., Crittenden A.P., Mah K., Genetics of a pheromonal difference contributing to reproductive isolation in Drosophila. Science, 265. 5177. 1461–1464,1994, doi = 10.1126/science.8073292, 8073292 De functie van deze verbindingen is in principe het mogelijk maken van de identificatie van individuen van dezelfde soort en van verschillend of hetzelfde geslacht door middel van geur. Wanneer feromonen vluchtig zijn, functioneren ze als een chemisch signaal over lange afstanden. In andere gevallen is hun bereik kleiner en moeten ze van dichtbij of door contact worden waargenomen. Bij soorten van de melanogaster-groep van Drosophila zijn de vrouwelijke feromonen mengsels van verschillende verbindingen, waarbij er gevallen zijn waarin er een duidelijk dimorfisme bestaat in het type en/of de hoeveelheid verbindingen die in elk geslacht aanwezig zijn. Omdat er ook verschillen zijn in kwantiteit en kwaliteit tussen verwante soorten wordt aangenomen dat feromonen kunnen dienen om individuen van andere soorten te onderscheiden. Een duidelijk voorbeeld van de rol van feromonen bij seksuele isolatie wordt gevonden bij de "maïsmot" van het geslacht Ostrinia. In Europa zijn er twee tweelingsoorten van dit geslacht die zeer zelden met elkaar kruisen. De vrouwtjes van beide soorten produceren feromonen die een vluchtige verbinding bevatten met twee isomeren, E en Z. Terwijl de ene soort 99% van het E-isomeer produceert, produceren de vrouwtjes van de andere soort 99% van het Z-isomeer. De productie wordt gecontroleerd door een enkele locus en de interspecifieke hybride (ontstaan uit een kruising tussen twee soorten van hetzelfde geslacht): is intermediair in de productie van isomeren. Mannetjes op hun beurt, detecteren bijna uitsluitend het isomeer dat wordt uitgestoten door vrouwtjes van hun eigen soort, zodat hybridisatie, hoewel mogelijk, zeer zeldzaam is. De waarneming van feromonen bij Ostrinia-mannetjes wordt bepaald door een enkel gen, dat verschilt van degene die de productie van isomeren regelt. Hybride mannetjes, geproduceerd door beide soorten met elkaar te kruisen, vertonen een gemiddelde reactie op geuren van beide typen. In dit geval zijn slechts twee loci voldoende geweest om een effectieve ethologische isolatie te genereren tussen populaties die anders genetisch zeer nauw verwant zijn.