Wicri:LymphedemaV1

De Wicri Santé

Cette page introduit les aspects techniques de la version LymphedemaV1 du « Serveur d'exploration sur le lymphœdème ».

Voir aussi :

Mise en œuvre

Sur la machine de développement

Initialisations

Génération des pages wikis
source IstexGetCorpusSize -q "lymphoedema OR lymphedema"
 IstexGenerAreaPages \
       -a LymphedemaV1   \
       -m   \
       -g Lymphedema   \
       -p Wicri/Sante   \
       -w wicri-sante.fr  \
       -W Wicri/Sante   \
       -s PascalFrancis   \
       -s PubMed   \
       -s Pmc   \
       -s Ncbi   \
       -s Hal   \
       -z Allemagne   \
       -z UK   \
       -z USA   \
       -z France   \
       -q "lymphoedema OR lymphedema"   \
       -d "2"   \
       -D "2000"   \
       -t "Serveur d'exploration sur le lymphœdème"
Définition $EXPLOR_AREA
EXPLOR_AREA=$WICRI_ROOT/Wicri/Sante/explor/Lymphedema.storage/LymphedemaV1
export EXPLOR_AREA
export LC_ALL='C'
Création des répertoires
mkdir $WICRI_ROOT/Wicri/Sante/explor/Lymphedema.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import

Sur la machine LorExplor

Définition $EXPLOR_AREA
newgrp wicri
source /applis/lorexplor/Dilib/init.sh 
EXPLOR_AREA=$WICRI_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1.20171104
export EXPLOR_AREA
export LC_ALL='C'
cd $EXPLOR_AREA

Construction du Repository ISTEX

logo travaux ;Problèmes de récupération des corpus ISTEX:

Avec notamment des directives Xml avec saut de ligne :

head -455 Import/IstexRepository.list


En cas de reprise au niveau du téléchargement

rm -rf $EXPLOR_AREA/Import/IstexRepository.h*
time (
  IstexGetCorpus -q lymphedema -s 4999 -l 
  IstexGetCorpus -q lymphedema -s 4999 -f 4000 -l 
  IstexGetCorpus -q lymphoedema -s 4999 -l 
  IstexGetCorpus -q lymphoedema -s 4999 -f 4000 -l 
) | sort -u > Import/IstexRepository.list
time head -2000 Import/IstexRepository.list  \
     | IstexGetCorpusById -A                  \
     | SxmlUnIndent                            \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart00000
time head -4000 Import/IstexRepository.list | tail -2000  \
     | IstexGetCorpusById -A  \
     | SxmlUnIndent                           \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart02000
time head -6000 Import/IstexRepository.list | tail -2000  \
     | IstexGetCorpusById -A  \
     | SxmlUnIndent                           \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart04000
time head -8000 Import/IstexRepository.list | tail -2000  \
     | IstexGetCorpusById -A  \
     | SxmlUnIndent                           \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart06000
time head -10000 Import/IstexRepository.list | tail -2000  \
     | IstexGetCorpusById -A  \
     | SxmlUnIndent                           \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart08000
time tail -2025 Import/IstexRepository.list   \
     | IstexGetCorpusById -A  \
     | SxmlUnIndent                             \
     | HfdBuild -bh    $EXPLOR_AREA/Import/IstexPart10000


(
     HfdCat $EXPLOR_AREA/Import/IstexPart00000.hfd
     HfdCat $EXPLOR_AREA/Import/IstexPart02000.hfd
     HfdCat $EXPLOR_AREA/Import/IstexPart04000.hfd
     HfdCat $EXPLOR_AREA/Import/IstexPart06000.hfd
     HfdCat $EXPLOR_AREA/Import/IstexPart08000.hfd
     HfdCat $EXPLOR_AREA/Import/IstexPart10000.hfd
) | SgmlFast -c1 | HfdBuild -bh    $EXPLOR_AREA/Import/IstexRepository

Construction des métadonnées ISTEX

ISTEX, création du HFD Corpus Biblio
En cas de reprise:
rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*
Construction corpus biblio
time HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd   \
  | IstexCleanFullText                           \
  | SgmlFast -c1                                 \
  | IstexToTei                                   \
  | TeiPutRefToIdno -t wicri:Area/Istex/Corpus  -c ISTEX -s Corpus -S Istex \
  | HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

Téléchargement des autres corpus

PubMed

Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :

lymphedema 

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml

Envoyer sur machine LorExplor par :

scp Import/pubmed_result.xml $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/Import
PubMed Central

Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :

lymphedema 

Ranger le résultat dans $EXPLOR_AREA/Import/pmc_result.xml

Envoyer sur machine LorExplor par :

scp Import/pmc_result.xml $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/Import
PascalFrancis

Site :http://stan2.demo.inist.fr/fr/

Requête :

Télécharger avec les onglets : Serveur / SGML / SGML / LF

  • résultat dans $EXPLOR_AREA/Import
 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt 

Télécharger avec les onglets : SGML / SGML / SGML / LF

  • résultat dans $EXPLOR_AREA/Import
 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt 
Hal

Sur : https://hal.archives-ouvertes.fr/

Sur la machine de développement

Récupération des modèles

scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportSize.xml .
scp $ISTEX_PAR $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportMaps.xml .
scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportInclude.xml .