Jacques Ducloy : /* Transfert vers la machine LorExplor */

2024-02-14T10:03:47Z

‎Transfert vers la machine LorExplor

imported>Jacques Ducloy : /* Génération des FTP */

2017-08-02T14:45:41Z

‎Génération des FTP

Nouvelle page

Cette page introduit les aspects techniques de la version [[Wicri:MovDisordV3|MovDisordV3]] du [[Serveur d'exploration]] « [[Movement Disorders (revue)]] ».

Voir aussi :
*[[Wicri:MovDisordV3/Paramètres, data]] - ''génération des données''
*[[Wicri:MovDisordV3/Paramètres, fr]] - ''génération de l'interface''
*[[Wicri:MovDisordV3/Paramètres, génération des cartes]] - ''génération de cartes géographiques''
==Mise en œuvre==
===Sur la machine de développement===
====Initialisations====
;Génération des pages wikis:
<source lang="sh">
source IstexGetCorpusSize -q 'host.issn:"0885-3185"'
IstexGenerAreaPages \
-a MovDisordV3 \
-m \
-g MovDisord \
-p Wicri/Sante \
-w wicri-sante.fr \
-W Wicri/Santé \
-s PascalFrancis \
-s Hal \
-s PubMed \
-s Pmc \
-s Ncbi \
-t "Movement Disorders (revue)"

</source>
;Définition $EXPLOR_AREA:
<source lang="sh">
EXPLOR_AREA=$WICRI_ROOT/Wicri/Sante/corpus/MovDisord.storage/MovDisordV3
export EXPLOR_AREA
export LC_ALL='C'
</source>
;Création des répertoires:
<source lang="sh">
mkdir $WICRI_ROOT/Wicri/Sante/corpus/MovDisord.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import
</source>
====Récupération des corpus====
Compte tenu du volume du corpus (ordre de grandeur {{formatnum:7000}}), le téléchargement est découpé en 3 étapes de 2500 documents.

;En cas de reprise complète au niveau du téléchargement:
<source lang="sh">
rm -rf $EXPLOR_AREA/Import/IstexDownload.*.h*

</source>
<source lang="sh">
time IstexGetCorpus -q 'host.issn:"0885-3185"' -s 2500 -A \
| IstexToSxml \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexDownload.00000

time IstexGetCorpus -q 'host.issn:"0885-3185"' -s 2500 -f 2500 -A \
| IstexToSxml \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexDownload.02500

time IstexGetCorpus -q 'host.issn:"0885-3185"' -s 2500 -f 5000 -A \
| IstexToSxml \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexDownload.05000
</source>
;Construction du repository ISTEX:
<source lang="sh">
rm -rf $EXPLOR_AREA/Import/IstexRepository.h*
</source>

<source lang="sh">
(
HfdCat $EXPLOR_AREA/Import/IstexDownload.*.hfd
) | SgmlFast -c 1 | HfdBuild -bh $EXPLOR_AREA/Import/IstexRepository
</source>
;Construction corpus biblio:
;En cas de reprise:
<source lang="sh">
rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*

</source>
puis :
<source lang="sh">
HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd \
| IstexCleanFullText \
| SgmlFast -c1 \
| IstexToTei \
| TeiPutRefToIdno -t wicri:Area/Istex/Corpus \
| HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata

</source>

====Téléchargement des autres corpus====
;PubMed:
Site : http://www.ncbi.nlm.nih.gov/pubmed

Requête :
0885-3185[Journal]

Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml
;PubMed Central:
Site : http://www.ncbi.nlm.nih.gov/pmc

Requête :
0885-3185[Journal]
Ranger le résultat dans $EXPLOR_AREA/Import/pmc_result.xml
;PascalFrancis:
Site :http://stan2.demo.inist.fr/fr/

Requête :
sn = "0885-3185"
Télécharger avec les onglets : Serveur / SGML / SGML / LF
*résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt
Télécharger avec les onglets : SGML / SGML / SGML / LF
*résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt
;Hal:
====Génération de la plateforme====
;Importation des paramètres de génération:
<source lang="sh">
WicriGetPage -l wicri-sante.fr -p "Wicri:MovDisordV3/Paramètres, data"\
> $EXPLOR_AREA/Import/WicriAreaParam.data.wiki
</source>
Si reprise
<source lang="sh">
sh $EXPLOR_AREA/bin/AreaReset.sh
</source>
<source lang="sh">
ExplorAreaDataCreate -d $EXPLOR_AREA
make -f $EXPLOR_AREA/bin/area.mk
</source>
;Importation des paramètres de navigation:
<source lang="sh">
WicriGetPage -l wicri-sante.fr -p "Wicri:MovDisordV3/Paramètres, fr"\
> $EXPLOR_AREA/Import/WicriAreaSiteParam.fr.wiki
</source>
;Génération de l'interface :
<source lang="sh">
sh $EXPLOR_AREA/bin/AreaCreateSite.fr.sh
</source>
====Génération des FTP====
<source lang="sh">
cd $EXPLOR_AREA
rm Site.tar.gz
tar -cvf Site.tar Site
gzip Site.tar
rm Data.tar.gz
tar -cvf Data.tar Data
gzip Data.tar

rm ImportMetadata.tar.gz
tar -cvf ImportMetadata.tar Import/istexMetadata.hcs Import/istexMetadata.hfd
gzip ImportMetadata.tar
</source>
===Transfert vers la machine LorExplor===
<source lang="sh">
scp Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
scp Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
scp ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
</source>

===Sur la machine cible===
Aller sur le répertoire corpus correspondant au wiki cible
<source lang="sh">
. ... Dilib/init.sh
newgrp ticri
EXPLOR_AREA=$WICRI_ROOT/Wicri/Santé/corpus/MovDisord.storage/MovDisordV3.20151206
</source>
Si nouveau code générique :
<source lang="sh">
mkdir $WICRI_ROOT/Wicri/Santé/corpus/MovDisord.storage
</source>
Création du répertoire plateforme
<source lang="sh">
mkdir $EXPLOR_AREA
</source>
;Transfert par FileZilla:
Transférer les fichiers Site.tar.gz, Data.tar.gz de MovDisordV3 (émetteur) vers MovDisordV3 (cible).
;Installation:
<source lang="sh">
cd $EXPLOR_AREA
gunzip Site.tar.gz
tar -xvf Site.tar
gzip Site.tar

gunzip Data.tar.gz
tar -xvf Data.tar
gzip Data.tar
</source>
<source lang="sh">

gunzip ImportMetadata.tar.gz
tar -xvf ImportMetadata.tar
gzip ImportMetadata.tar

cd Data/Istex/Corpus
rm biblio.hcs
rm biblio.hfd
ln -s ../../../Import/istexMetadata.hcs biblio.hcs
ln -s ../../../Import/istexMetadata.hfd biblio.hfd
</source>

@@ Ligne 151 : / Ligne 151 : @@
 ===Transfert vers la machine LorExplor===
 <source lang="sh">
-scp Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
+scp $ISTEX_PAR Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3.new
 scp Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3
 scp ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Sante/explor/MovDisord.storage/MovDisordV3

Wicri:MovDisordV3 - Historique des versions

Jacques Ducloy : /* Transfert vers la machine LorExplor */

imported>Jacques Ducloy : /* Génération des FTP */