Wicri:MovDisordV3

Cette page introduit les aspects techniques de la version MovDisordV3 du Serveur d'exploration « Movement Disorders (revue) ».

Voir aussi :

• Wicri:MovDisordV3/Paramètres, data - génération des données
• Wicri:MovDisordV3/Paramètres, fr - génération de l'interface
• Wicri:MovDisordV3/Paramètres, génération des cartes - génération de cartes géographiques

Mise en œuvre

Sur la machine de développement

Initialisations

Génération des pages wikis

source IstexGetCorpusSize -q 'host.issn:"0885-3185"'
 IstexGenerAreaPages \
       -a MovDisordV3   \
       -m   \
       -g MovDisord   \
       -p Wicri/Sante   \
       -w wicri-sante.fr  \
       -W Wicri/Santé   \
       -s PascalFrancis   \
       -s Hal   \
       -s PubMed   \
       -s Pmc   \
       -s Ncbi   \
       -t "Movement Disorders (revue)"

Définition $EXPLOR_AREA

EXPLOR_AREA=$WICRI_ROOT/Wicri/Sante/corpus/MovDisord.storage/MovDisordV3
export EXPLOR_AREA
export LC_ALL='C'

Création des répertoires

mkdir $WICRI_ROOT/Wicri/Sante/corpus/MovDisord.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import

Récupération des corpus

Compte tenu du volume du corpus (ordre de grandeur 7 000), le téléchargement est découpé en 3 étapes de 2500 documents.

En cas de reprise complète au niveau du téléchargement

rm -rf $EXPLOR_AREA/Import/IstexDownload.*.h*

time IstexGetCorpus -q 'host.issn:"0885-3185"' -s 2500 -A \
     | IstexToSxml     \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexDownload.00000

time IstexGetCorpus -q 'host.issn:"0885-3185"' -s 2500 -f 2500 -A \
     | IstexToSxml     \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexDownload.02500

time IstexGetCorpus -q 'host.issn:"0885-3185"'  -s 2500 -f 5000 -A \
     | IstexToSxml     \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexDownload.05000

Construction du repository ISTEX

rm -rf $EXPLOR_AREA/Import/IstexRepository.h*

(
 HfdCat $EXPLOR_AREA/Import/IstexDownload.*.hfd
)       | SgmlFast -c 1  | HfdBuild -bh $EXPLOR_AREA/Import/IstexRepository

Construction corpus biblio

En cas de reprise

rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*

puis :

HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd   \
  | IstexCleanFullText                           \
  | SgmlFast -c1                                 \
  | IstexToTei                                   \
  | TeiPutRefToIdno -t wicri:Area/Istex/Corpus \
  | HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

Téléchargement des autres corpus

PubMed

Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :

  0885-3185[Journal]

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml

PubMed Central

Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :

     0885-3185[Journal]

Ranger le résultat dans $EXPLOR_AREA/Import/pmc_result.xml

PascalFrancis

Site :http://stan2.demo.inist.fr/fr/

Requête :

sn = "0885-3185" 

Télécharger avec les onglets : Serveur / SGML / SGML / LF

• résultat dans $EXPLOR_AREA/Import

 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt 

Télécharger avec les onglets : SGML / SGML / SGML / LF

• résultat dans $EXPLOR_AREA/Import

 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt 

Hal

Génération de la plateforme

Importation des paramètres de génération

WicriGetPage -l wicri-sante.fr -p "Wicri:MovDisordV3/Paramètres, data"\
      > $EXPLOR_AREA/Import/WicriAreaParam.data.wiki

Si reprise

sh $EXPLOR_AREA/bin/AreaReset.sh

ExplorAreaDataCreate -d $EXPLOR_AREA
make -f $EXPLOR_AREA/bin/area.mk

Importation des paramètres de navigation

WicriGetPage -l wicri-sante.fr -p "Wicri:MovDisordV3/Paramètres, fr"\
      > $EXPLOR_AREA/Import/WicriAreaSiteParam.fr.wiki

Génération de l'interface 

sh $EXPLOR_AREA/bin/AreaCreateSite.fr.sh

Génération des FTP

cd $EXPLOR_AREA
rm Site.tar.gz 
tar -cvf Site.tar Site 
gzip Site.tar 
rm Data.tar.gz 
tar -cvf Data.tar Data 
gzip Data.tar 

rm ImportMetadata.tar.gz
tar -cvf ImportMetadata.tar Import/istexMetadata.hcs Import/istexMetadata.hfd
gzip ImportMetadata.tar

Transfert vers la machine LorExplor

scp $ISTEX_PAR Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3.new
scp Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
scp ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3

Sur la machine cible

Aller sur le répertoire corpus correspondant au wiki cible

. ... Dilib/init.sh  
newgrp ticri
EXPLOR_AREA=$WICRI_ROOT/Wicri/Santé/corpus/MovDisord.storage/MovDisordV3.20151206

Si nouveau code générique :

mkdir $WICRI_ROOT/Wicri/Santé/corpus/MovDisord.storage

Création du répertoire plateforme

mkdir $EXPLOR_AREA

Transfert par FileZilla

Transférer les fichiers Site.tar.gz, Data.tar.gz de MovDisordV3 (émetteur) vers MovDisordV3 (cible).

Installation

cd $EXPLOR_AREA
gunzip Site.tar.gz 
tar -xvf Site.tar 
gzip Site.tar 

gunzip Data.tar.gz 
tar -xvf Data.tar 
gzip Data.tar

gunzip ImportMetadata.tar.gz 
tar -xvf ImportMetadata.tar 
gzip ImportMetadata.tar 

cd Data/Istex/Corpus 
rm biblio.hcs 
rm biblio.hfd 
ln -s ../../../Import/istexMetadata.hcs biblio.hcs 
ln -s ../../../Import/istexMetadata.hfd biblio.hfd