Wicri:ChloroquineV1

Cette page introduit les aspects techniques de la version ChloroquineV1 du « Serveur d'exploration Chloroquine ».

Voir aussi :

• Wicri:ChloroquineV1/Paramètres, data - génération des données
• Wicri:ChloroquineV1/Paramètres, fr - génération de l'interface
• Wicri:ChloroquineV1/Paramètres, génération des cartes - génération de cartes géographiques
• Wicri:ChloroquineV1/Paramètres, templates size - paramétrage des modèles liés aux valeurs numériques
• Wicri:ChloroquineV1/Paramètres, template include - génération du modèle d'affichage des résultats bruts

Mise en œuvre

Initialisations

Génération des pages wikis

 IstexGenerAreaPages \
       -a ChloroquineV1   \
       -m   \
       -g Chloroquine   \
         -x  1 \
       -p Sante   \
       -w wicri-sante.fr  \
       -W Sante   \
       -s PubMed   \
       -s Pmc   \
       -s Ncbi   \
       -s Hal   \
       -s PascalFrancis   \
       -z France   \
       -z an2020 \
       -q "(chloroquine OR hydroxychloroquine) AND lung*"   \
       -t "Serveur d'exploration Chloroquine"

Définition $EXPLOR_AREA

EXPLOR_AREA=$WICRI_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1
export EXPLOR_AREA
export LC_ALL='C'

Création des répertoires

mkdir $WICRI_ROOT/Sante/explor/Chloroquine.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import

Sur la machine LorExplor

newgrp wicri
source /applis/lorexplor/Dilib/init.sh

Définition $EXPLOR_AREA

EXPLOR_AREA=$WICRI_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1
export EXPLOR_AREA
export LC_ALL='C'

Création des répertoires

mkdir $WICRI_ROOT/Sante/explor/Chloroquine.storage
cd $WICRI_ROOT/Sante/explor/Chloroquine.storage
mkdir ChloroquineV1.corpus
mkdir ChloroquineV1.corpus/Import
mkdir ChloroquineV1.20200325
ln -s ChloroquineV1.20200325 ChloroquineV1
ln -s ChloroquineV1.20200325 ChloroquineV1.new

Construction du Repository ISTEX

cd $WICRI_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1.corpus

En cas de reprise au niveau du téléchargement

rm -rf Import/IstexRepository.h*

IstexGetCorpus -q "(chloroquine OR hydroxychloroquine) AND lung*" -s 4500    -l          \
     | IstexGetCorpusById -A   \
     | SxmlUnIndent                           \
     | HfdBuild -bh    Import/IstexRepository

Vérification

HfdCat  $EXPLOR_AREA/Import/IstexRepository.hfd | wc

Vérification

HfdCat  $EXPLOR_AREA/Import/IstexRepository.hfd | wc

Transfert vers la machine de développement

tar -cvf Import.tar Import
gzip Import.tar

Construction des métadonnées ISTEX

ISTEX, création du HFD Corpus Biblio

En cas de reprise:

rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*

Construction corpus biblio

HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd   \
  | SgmlFast -c1                                 \
  | IstexToTei                                   \
  | IstexCleanFullText                           \
  | TeiPutRefToIdno -t wicri:Area/Istex/Corpus  -c ISTEX -s Corpus -S Istex \
  | HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

Retour vers la machine de développement

Transfert par scp

scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1.corpus/Import.tar.gz .
gunzip Import.tar.gz
tar -xvf Import.tar

Construction des métadonnées ISTEX

ISTEX, création du HFD Corpus Biblio

En cas de reprise:

rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*

Construction corpus biblio

HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd   \
  | SgmlFast -c1                                 \
  | IstexToTei                                   \
  | IstexCleanFullText                           \
  | TeiPutRefToIdno -t wicri:Area/Istex/Corpus  -c ISTEX -s Corpus -S Istex \
  | HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

Téléchargement des autres corpus

PubMed

Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :

lung* AND (chloroquine OR hydroxychloroquine)

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml

PubMed Central

Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :

lung* AND (chloroquine OR hydroxychloroquine)

(sur un an)

PascalFrancis

Site :http://stan2.demo.inist.fr/fr/

Requête :

( poumon ou lung ou pulmonaire) et  ( chloroquine ou hydroxychloroquine) 

Télécharger avec les onglets : Serveur / SGML / SGML / LF

• résultat dans $EXPLOR_AREA/Import

 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt 

Télécharger avec les onglets : SGML / SGML / SGML / LF

• résultat dans $EXPLOR_AREA/Import

 mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt

Hal

Sur : https://hal.archives-ouvertes.fr/

Génération des FTP

cd $EXPLOR_AREA
rm Site.tar.gz 
tar -cvf Site.tar Site 
gzip Site.tar 
rm Data.tar.gz 
tar -cvf Data.tar Data 
gzip Data.tar 

rm ImportMetadata.tar.gz
tar -cvf ImportMetadata.tar Import/istexMetadata.hcs Import/istexMetadata.hfd
gzip ImportMetadata.tar

Transfert vers la machine Démo.Wicri

scp  $ISTEX_PAR Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1.new
scp  $ISTEX_PAR Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1.new
scp  $ISTEX_PAR  ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Chloroquine.storage/ChloroquineV1.new

Sur la machine cible

Installation

cd $EXPLOR_AREA
gunzip Site.tar.gz 
tar -xvf Site.tar 
gzip Site.tar 

gunzip Data.tar.gz 
tar -xvf Data.tar 
gzip Data.tar

gunzip ImportMetadata.tar.gz 
tar -xvf ImportMetadata.tar 
gzip ImportMetadata.tar 

cd Data/Istex/Corpus 
rm biblio.hcs 
rm biblio.hfd 
ln -s ../../../Import/istexMetadata.hcs biblio.hcs 
ln -s ../../../Import/istexMetadata.hfd biblio.hfd