Wicri:TerroirV1
De Wicri Agronomie
Révision datée du 24 janvier 2018 à 22:54 par imported>Jacques Ducloy (→Téléchargement des autres corpus)
Cette page introduit les aspects techniques de la version TerroirV1 du « Serveur d'exploration sur les terroirs ».
Voir aussi :
- Wicri:TerroirV1/Paramètres, data - génération des données
- Wicri:TerroirV1/Paramètres, fr - génération de l'interface
- Wicri:TerroirV1/Paramètres, génération des cartes - génération de cartes géographiques
- Wicri:TerroirV1/Paramètres, templates size - paramétrage des modèles liés aux valeurs numériques
- Wicri:TerroirV1/Paramètres, template include - génération du modèle d'affichage des résultats bruts
Sommaire
Mise en œuvre
Sur la machine de développement
Initialisations
- Génération des pages wikis
source IstexGetCorpusSize -q "terroir*"
IstexGenerAreaPages \
-a TerroirV1 \
-m \
-g Terroir \
-p Agronomie \
-w wic-agronomie.fr \
-W Wicri/Agronomie \
-s PascalFrancis \
-s Hal \
-s HalInra \
-s PubMed \
-s Pmc \
-s Ncbi \
-q "terroir*" \
-t "Serveur d'exploration sur les terroirs"
- Définition $EXPLOR_AREA
EXPLOR_AREA=$WICRI_ROOT/Agronomie/explor/Terroir.storage/TerroirV1
export EXPLOR_AREA
export LC_ALL='C'
- Création des répertoires
mkdir $WICRI_ROOT/Agronomie/explor/Terroir.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import
Sur la machine LorExplor
newgrp wicri
source /applis/lorexplor/Dilib/init.sh
- Définition $EXPLOR_AREA
EXPLOR_AREA=$WICRI_ROOT/Agronomie/explor/Terroir.storage/TerroirV1
export EXPLOR_AREA
export LC_ALL='C'
- Création des répertoires
mkdir $WICRI_ROOT/Agronomie/explor/Terroir.storage
mkdir $EXPLOR_AREA
mkdir $EXPLOR_AREA/Import
mkdir $WICRI_ROOT/Agronomie/explor/Terroir.storage/TerroirV1
mkdir $WICRI_ROOT/Agronomie/explor/Terroir.storage/TerroirV1.corpus
Construction du Repository ISTEX
En cas de reprise au niveau du téléchargement
rm -rf $EXPLOR_AREA/Import/IstexRepository.h*
IstexGetCorpus -q "terroir*" -s 3000 -l \
| IstexGetCorpusById -A \
| SxmlUnIndent \
| HfdBuild -bh $EXPLOR_AREA/Import/IstexRepository
Vérification
HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd | wc
Construction des métadonnées ISTEX
- ISTEX, création du HFD Corpus Biblio
- En cas de reprise:
rm -rf $EXPLOR_AREA/Import/IstexMetadata.h*
- Construction corpus biblio
HfdCat $EXPLOR_AREA/Import/IstexRepository.hfd \
| SgmlFast -c1 \
| IstexToTei \
| IstexCleanFullText \
| TeiPutRefToIdno -t wicri:Area/Istex/Corpus -c ISTEX -s Corpus -S Istex \
| HfdBuild -h $EXPLOR_AREA/Import/IstexMetadata
Téléchargement des autres corpus
- PubMed
Site : http://www.ncbi.nlm.nih.gov/pubmed
Requête :
terroir*
Ranger le résultat dans $EXPLOR_AREA/Import/pubmed_result.xml
- PubMed Central
Site : http://www.ncbi.nlm.nih.gov/pmc
- PascalFrancis
Site :http://stan2.demo.inist.fr/fr/
Requête :
terroir*
Télécharger avec les onglets : Serveur / SGML / SGML / LF
- résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistServer.txt
Télécharger avec les onglets : SGML / SGML / SGML / LF
- résultat dans $EXPLOR_AREA/Import
mv $EXPLOR_AREA/Import/corpus.txt $EXPLOR_AREA/Import/inistStandard.txt
- Hal
Sur : https://hal.archives-ouvertes.fr/
- HalInra
Sur : http://prodinra.inra.fr/
PRD_201801240956274124990144751849034575.xml (terroirs -> 95)
Génération des FTP
cd $EXPLOR_AREA
rm Site.tar.gz
tar -cvf Site.tar Site
gzip Site.tar
rm Data.tar.gz
tar -cvf Data.tar Data
gzip Data.tar
rm ImportMetadata.tar.gz
tar -cvf ImportMetadata.tar Import/istexMetadata.hcs Import/istexMetadata.hfd
gzip ImportMetadata.tar
Transfert vers la machine LorExplor
scp Site.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Agronomie/explor/Terroir.storage/TerroirV1.new
scp Data.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Agronomie/explor/Terroir.storage/TerroirV1.new
scp ImportMetadata.tar.gz $ISTEX_SCP:$WICRI_TARGET_ROOT/Agronomie/explor/Terroir.storage/TerroirV1.new
Sur la machine cible
Aller sur le répertoire corpus correspondant au wiki cible
. ... Dilib/init.sh
newgrp ticri
EXPLOR_AREA=$WICRI_ROOT/Wicri/Agronomie/corpus/Terroir.storage/TerroirV1.20180123
Si nouveau code générique :
mkdir $WICRI_ROOT/Wicri/Agronomie/corpus/Terroir.storage
Création du répertoire plateforme
mkdir $EXPLOR_AREA
- Installation
cd $EXPLOR_AREA
gunzip Site.tar.gz
tar -xvf Site.tar
gzip Site.tar
gunzip Data.tar.gz
tar -xvf Data.tar
gzip Data.tar
gunzip ImportMetadata.tar.gz
tar -xvf ImportMetadata.tar
gzip ImportMetadata.tar
cd Data/Istex/Corpus
rm biblio.hcs
rm biblio.hfd
ln -s ../../../Import/istexMetadata.hcs biblio.hcs
ln -s ../../../Import/istexMetadata.hfd biblio.hfd