Jacques Ducloy : /* Récupération des modèles */

2024-02-13T15:54:00Z

‎Récupération des modèles

imported>Jacques Ducloy : /* Sur la machine LorExplor */

2017-11-11T10:12:47Z

‎Sur la machine LorExplor

Nouvelle page

Cette page introduit les aspects techniques de la version [[Wicri:LymphedemaV1|LymphedemaV1]] du « [[Serveur d'exploration sur le lymphœdème]] ».

Voir aussi :
*[[Wicri:LymphedemaV1/Paramètres, data]] - ''génération des données''
*[[Wicri:LymphedemaV1/Paramètres, fr]] - ''génération de l'interface''
*[[Wicri:LymphedemaV1/Paramètres, génération des cartes]] - ''génération de cartes géographiques''
*[[Wicri:LymphedemaV1/Paramètres, templates size]] - ''paramétrage des modèles liés aux valeurs numériques''
*[[Wicri:LymphedemaV1/Paramètres, template include]] - ''génération du modèle d'affichage des résultats bruts''
==Mise en œuvre==
===Sur la machine de développement===
====Initialisations====
;Génération des pages wikis:
<source lang="sh">
source IstexGetCorpusSize -q "lymphoedema OR lymphedema"
IstexGenerAreaPages \
-a LymphedemaV1 \
-m \
-g Lymphedema \
-p Wicri/Sante \
-w wicri-sante.fr \
-W Wicri/Sante \
-s PascalFrancis \
-s PubMed \
-s Pmc \
-s Ncbi \
-s Hal \
-z Allemagne \
-z UK \
-z USA \
-z France \
-q "lymphoedema OR lymphedema" \
-d "2" \
-D "2000" \
-t "Serveur d'exploration sur le lymphœdème"

</source>
;Définition $EXPLOR_AREA:
<source lang="sh">
EXPLOR_AREA=$WICRI_ROOT/Wicri/Sante/explor/Lymphedema.storage/LymphedemaV1
export EXPLOR_AREA
export LC_ALL='C'
</source>

;Création des répertoires:
<source lang="sh">
mkdir $WICRI_ROOT/Wicri/Sante/explor/Lymphedema.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import
</source>

==Sur la machine LorExplor==
;Définition $EXPLOR_AREA:

<source lang="sh">
newgrp wicri
source /applis/lorexplor/Dilib/init.sh
EXPLOR_AREA=$WICRI_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1.20171104
export EXPLOR_AREA
export LC_ALL='C'
cd $EXPLOR_AREA
</source>

====Construction du Repository ISTEX====
{{Wicri travaux|texte=

;Problèmes de récupération des corpus ISTEX:

Avec notamment des directives Xml avec saut de ligne :

head -455 Import/IstexRepository.list | tail -1

}}

''En cas de reprise au niveau du téléchargement''
<source lang="sh">
rm -rf $EXPLOR_AREA/Import/IstexRepository.h*
</source>

<source lang="sh">
time (
IstexGetCorpus -q lymphedema -s 4999 -l
IstexGetCorpus -q lymphedema -s 4999 -f 4000 -l
IstexGetCorpus -q lymphoedema -s 4999 -l
IstexGetCorpus -q lymphoedema -s 4999 -f 4000 -l
) | sort -u > Import/IstexRepository.list
</source>

<source lang="sh">
time head -2000 Import/IstexRepository.list \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart00000
</source>

<source lang="sh">
time head -4000 Import/IstexRepository.list | tail -2000 \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart02000
</source>

<source lang="sh">
time head -6000 Import/IstexRepository.list | tail -2000 \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart04000
</source>

<source lang="sh">
time head -8000 Import/IstexRepository.list | tail -2000 \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart06000
</source>

<source lang="sh">
time head -10000 Import/IstexRepository.list | tail -2000 \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart08000
</source>

<source lang="sh">
time tail -2025 Import/IstexRepository.list \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexPart10000
</source>

<source lang="sh">
(
HfdCat $EXPLOR_AREA/Import/IstexPart00000.hfd
HfdCat $EXPLOR_AREA/Import/IstexPart02000.hfd
HfdCat $EXPLOR_AREA/Import/IstexPart04000.hfd
HfdCat $EXPLOR_AREA/Import/IstexPart06000.hfd
HfdCat $EXPLOR_AREA/Import/IstexPart08000.hfd
HfdCat $EXPLOR_AREA/Import/IstexPart10000.hfd
) | SgmlFast -c1 | HfdBuild -bh $EXPLOR_AREA/Import/IstexRepository
</source>

====Construction des métadonnées ISTEX====
;ISTEX, création du HFD Corpus Biblio:En cas de reprise:
<source lang="sh">
rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*

</source>
;Construction corpus biblio:
<source lang="sh">
time HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd \
| IstexCleanFullText \
| SgmlFast -c1 \
| IstexToTei \
| TeiPutRefToIdno -t wicri:Area/Istex/Corpus -c ISTEX -s Corpus -S Istex \
| HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

</source>

====Téléchargement des autres corpus====
;PubMed:
Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :
lymphedema

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml

Envoyer sur machine LorExplor par :
scp Import/pubmed_result.xml $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/Import

;PubMed Central:
Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :
lymphedema

Ranger le résultat dans $EXPLOR_AREA/Import/pmc_result.xml

Envoyer sur machine LorExplor par :
scp Import/pmc_result.xml $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/Import

;PascalFrancis:
Site :http://stan2.demo.inist.fr/fr/

Requête :

Télécharger avec les onglets : Serveur / SGML / SGML / LF
*résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt
Télécharger avec les onglets : SGML / SGML / SGML / LF
*résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt
;Hal:
Sur : https://hal.archives-ouvertes.fr/

==Sur la machine de développement==

===Récupération des modèles===
<source lang="sh">
scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportSize.xml .
scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportMaps.xml .
scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportInclude.xml .
</source>

@@ Ligne 200 : / Ligne 200 : @@
 <source lang="sh">
 scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportSize.xml .
-scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportMaps.xml .
+scp $ISTEX_PAR $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportMaps.xml .
 scp $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/Lymphedema.storage/LymphedemaV1/exportInclude.xml .
 </source>

Wicri:LymphedemaV1 - Historique des versions

Jacques Ducloy : /* Récupération des modèles */

imported>Jacques Ducloy : /* Sur la machine LorExplor */