26 april 2009

Scans van archiefstukken vindbaar maken

Mijn handen jeuken om een alternatief te maken voor het lovenswaardige maar technisch achterhaalde Van Papier Naar Digitaal (VPND). Maar ik heb er geen tijd voor, dus het blijft bij advies aan VPND en bruikbare tips die iedereen kan gebruiken om gescande en gefotografeerde akten op Internet te plaatsen en vindbaar te maken.

Tip: Zet de archiefstukken op Scribd of Flickr

In een eerder (niet opgevolgd) advies aan VPND besprak ik de mogelijkheid om gratis de PDF bestanden op sites neer te zetten als Scribd of Flickr. Een zeer mooi voorbeeld: scans van het Bredevoort domein uit 1.08.11 Nassause Domeinraad uit het Nationaal Archief door Yvette Hoitink op Flickr geplaatst:

Iedereen kan de foto’s die zij van archiefstukken maken eenvoudig en gratis op websites als Flickr en Scribd plaatsen. Via comments kunnen opmerkingen en transcripties door iedereen worden geplaatst. Via tags (steekwoorden) kunnen afbeeldingen eenvoudig vindbaar worden gemaakt, zo heeft Yvette bij bovenstaande set de volgende tags opgenomen: Bredevoort, Winterswijk, Aalten, Dinxperlo, Nationaal Archief, genealogie, genealogy, archives, Nassause Domeinraad, history.

Websites als Flickr en Scribd zorgen ervoor dat hun content geïndexeerd wordt door zoekmachines, dus daar hoef je zelf niets voor te doen.

Via Scribd en Flickr kun je eenvoudig en gratis je eigen Van Papier Naar Digitaal maken!

Google is je vriend!

Je website gebruikersvriendelijk, doorzoekbaar en vindbaar door zoekmachines maken zijn zeer belangrijk. Zeker als je belangrijke, door vrijwillige geproduceerde inhoud op Internet plaatst, dien je er zorg voor te dragen dat deze informatie goed wordt gepresenteerd en te vinden is via Google. Echter, op dit moment zijn bijvoorbeeld de bijdragen van mevrouw Erica van Dooremalen voor VPND via Google niet terug te vinden! Dat zij bijvoorbeeld foto’s heeft gemaakt van de bron “Havendienst van de gemeente Dordrecht, toegangsnr. 68a” en deze heeft getranscribeerd is niet via Google te vinden en toch staat het op VPND.

De reden dat niets van dit moois meer direct via Google of andere zoekmachines is te vinden komt doordat VPND de zoekrobot van onder andere Google de toegang heeft ontzegd! Dit is gedaan (via robots.txt) in een poging om de capaciteitsproblemen die VPND heeft het hoofd te bieden. En ja, zoekmachines niet meer toelaten en daarmee je webpagina’s onvindbaar maken is dan een optie… maar dat doet geen recht aan het de inhoud van VPND!

Gelukkig is veel content nog wel te vinden via websites als de Stamboom Gids en het Het Archiefforum.

Om het waardevolle werk van al die vrijwilligers niet in een zwart gat te laten verdwijnen hierbij (weer) wat tips voor VPND.

Google Webmasterhulpprogramma’s

Zoekmachines als Google crawlen met zoekrobots heel het Internet af om content te vinden die ze kunnen indexeren zodat wij het via Google’s zoekmachine kunnen vinden. Webmasters kunnen via Google Webmasterhulpprogramma’s inzicht krijgen hoe vaak (per dag) de Googlebot hun website bezoekt. Hieronder een voorbeeld van Genealogie Online:

image

Ook kan de crawlsnelheid (dus hoe vaak komt de Googlebot op je website) ingesteld worden. Voor Genealogie Online (miljoenen pagina’s met voorouders) heb ik deze iets sneller gezet: Google mag per seconde 2 pagina’s opvragen. De snelheid kan natuurlijk ook langzamer gezet worden om bandbreedte te besparen.

image

Selectief laten indexeren

Zoekmachines kijken voordat ze een website indexeren naar het bestand robots.txt. In dit bestand kan een webmaster aangeven wat wel en vooral niet geïndexeerd mag worden. Het robots.txt bestand van Genealogie Online ziet er bijvoorbeeld als volgt uit:




User-agent: *
Disallow: /ged/
Disallow: /zoek/
Disallow: /zoeknaam.php
Disallow: /contact.php


Hieruit kunnen zoekrobots lezen dat ze alles mogen indexeren behalve een tweetal sub-directories en een tweetal bestanden. VPND heeft via robots.txt nu aangegeven dat zoekmachines niets mogen indexeren:




User-agent: *
Disallow: /


Wat men wil is dat de vele megabytes aan PDF bestanden niet worden geïndexeerd, dat kost namelijk veel bandbreedte en Google kan er toch niet veel mee omdat het afbeeldingen zijn. Voor Genealogie Online wil ik ook niet dat afbeeldingen door Google worden geïndexeerd. Om deze reden staan alle afbeeldingen op het domein http://img.coret.org/ en http://img3.coret.org/ en op deze domeinen laat ik zoekmachines niet toe. Echter alle andere interessante content op Genealogie Online (op het domein http://www.genealogieonline.nl/) is wel toegankelijk voor Google.



Als bovenstaande aanpak (PDF-jes op apart sub domein of subdirectory plaatsen) voor VPND niet kan dan is er nog een tweede optie: we willen namelijk wel alle tekst van VPND door Google geïndexeerd maar niet de PDF bestanden. Via robots.txt geef je dat als volgt aan (werkt alleen voor Google):




User-agent: Googlebot
Disallow: /*.pdf$


Alhoewel de tips ten aanzien van indexering helpen voor de korte termijn is mijn advies voor VPND toch ook: Zet de archiefstukken op Scribd of Flickr! VPND kan een index worden naar scans die overal en nergens staan. Maar om deze index gebruikersvriendelijk en doorzoekbaar te maken adviseer ik wel om over te gaan naar een dynamische website en niet alles handmatig met FrontPage te blijven doen.

10 april 2009

GEDCOM 25 jaar! Tijd voor pensioen?

“De benaming GEDCOM is een acroniem voor GEnealogische Data COMmunicatie, en wordt gebruikt voor een speciaal tekstformaat dat is ontwikkeld door de Kerk van Jezus Christus van de Heiligen der Laatste Dagen (LDS), beter bekend als de Mormonen. Dit formaat was ontwikkeld zodat een standaard zou ontstaan met betrekking tot communicatie tussen de Kerk en personen die genealogische data aanleverden. Het GEDCOM-formaat heeft zich nu ontwikkeld tot de facto standaard voor gegevensuitwisseling tussen de meeste genealogische programma's en systemen.”, aldus de Nederlandse versie van Wikipedia over GEDCOM.

De Engelse variant van de GEDCOM pagina bevat een tijdlijn van de GEDCOM versies en daaruit blijkt dat versie 1.0 stamt uit 1984!

Wat is er mis met GEDCOM?

De huidige standaard, versie 5.5, stamt uit 1996. Veel van de kritiek op GEDCOM kan weerlegt worden, zoals:

  • de standaard is uitbreidbaar, zie bijvoorbeeld Gedcom 5.5EL waar bijvoorbeeld ook geografische constructies zijn gedefinieerd;
  • er zijn mogelijkheden voor multimedia, door links op te nemen of bestanden op te nemen;
  • genoeg mogelijkheden voor diakrieten en andere talen voor ondersteuning van Unicode (ISO 1064);
  • er zijn mogelijkheden om meerdere feiten vast te leggen met waarschijnlijkheid/kwaliteits indicatie, bijvoorbeeld meerdere geboorte één die voortkomt uit een huwelijksakte en één (die afwijkt en) voortkomt uit een overlijdensakte (zie voorbeeld in Wikipedia).

Toch zijn er ook zaken die lastig in GEDCOM zijn weer te geven, zoals:

  • Gebeurtenissen kunnen niet aan meerdere personen worden gekoppeld, behalve voorgedefinieerde familiegebeurtenissen als een huwelijk;
  • Plaatsen worden niet eenduidig en enkelvoudig vastgelegd;
  • Zaken als homo-huwelijk en geregistreerd partnerschap kunnen niet worden gerepresenteerd.

Wat altijd een groot probleem is, maar niet sec van de GEDCOM standaard, is de ondersteuning van alle mogelijkheden door softwareprogramma’s en genealogische websites. Vaak zijn stamboomprogramma’s gestoeld om een eigen intern formaat dat niet altijd één-op-één overeenkomt met GEDCOM (deze is immers bedoeld voor communicatie).

Daarnaast komt het ook nog wel eens voor dat stamboomprogramma’s hun eigen uitbreidingen toevoegen aan GEDCOM of bestaande constructies anders interpreteren. Dit wordt vaak, aangeduid als manco van GEDCOM. Ten onrechte, want het niet houden aan standaarden komt bij elke standaard voor (ook XML helpt daar niet bij).

Meer discussie hierover in What’s wrong with GEDCOM?

Bewijs, feiten en conclusies

GEDCOM gebruikt een datamodel gebaseerd op afstamming (lineage-linked model), familie en het individu. Een andere manier is om data te structureren rondom ondersteunend bewijs (evidence-based models)

In het GEDCOM lineage-linked data model wordt alle data dus gerepresenteerd als de veronderstelde realiteit. Er zijn stromingen binnen de genealogische wereld die uitgaan van feit, bewijs, hypothesen en conclusies. Zij vinden dat dit onderzoeksproces ook goed beschreven en ondersteund moet worden.

Elizabeth Shown Mills (auteur van "Evidence" en "Evidence Explained,") geeft aan dat mensen genealogisch onderzoek leren door het stamboomprogramma dat ze gebruiken. In de meeste gevallen bieden programma’s de mogelijkheid om namen, data en plaatsen in te voeren. Maar zaken als onderzoeksproces, bewijs, bronnen, conclusies, tegenstrijdige feiten, komen helaas weinig voor in stamboomprogramma’s.

Een nieuwe standaard?

De Mormonen hebben wel initiatieven getoond voor vernieuwing van de standaard, bijvoorbeeld om een XML variant te maken (zonder het onderliggende datamodel aan te passen). Critici als Bob Velke (via newsletter Dick Eastman) geven aan dat LDS vertegenwoordigers geen plannen hebben om het onderscheid tussen bewijs en conclusies te maken omdat dit niet past in de behoefte van de LDS.

Er zijn diverse initiatieven geweest om tot een nieuw datamodel te komen en/of om te schakelen naar XML, veel zijn gesneuveld, waaronder:

Het lastige aan het maken van een nieuwe standaard is autoriteit. Een partij (nationaal of internationaal) die visie toont en als gezaghoudende partij wordt gezien die de standaard bewaakt en doorontwikkelt en die aan draagkracht zorgt voor de standaard werkt. Want een standaard zonder adoptie door softwaremakers, websitebouwers en instellingen als archieven is niets waard.

GEDCOM met pensioen?

Nee dus, er is nog geen alternatief!

Tijd voor een Nederlands initiatief?