Die vorliegende Übersetzung wurde maschinell erstellt. Im Falle eines Konflikts oder eines Widerspruchs zwischen dieser übersetzten Fassung und der englischen Fassung (einschließlich infolge von Verzögerungen bei der Übersetzung) ist die englische Fassung maßgeblich.
Zugreifen auf HealthOmics Lesesätze mit Amazon S3-URIs
Sie können Amazon S3-URI-Pfade verwenden, um auf Ihre aktiven Sequenzspeicher-Lesesätze zuzugreifen.
Mit dem Amazon S3-URI-Pfad können Sie Amazon S3-Operationen verwenden, um Ihre Lesesätze aufzulisten, zu teilen und herunterzuladen. Der Zugriff über die S3-APIs beschleunigt die Zusammenarbeit und die Toolintegration, da viele Branchen-Tools bereits für das Lesen von S3 entwickelt wurden. Darüber hinaus können Sie den Zugriff auf die S3-APIs mit anderen Konten teilen und regionsübergreifenden Lesezugriff auf Daten gewähren.
HealthOmics unterstützt den Amazon S3-URI-Zugriff auf archivierte Lesesätze nicht. Wenn Sie einen Lesesatz aktivieren, wird er jedes Mal auf denselben URI-Pfad wiederhergestellt.
Da die Amazon S3-URI auf Amazon S3-Zugriffspunkten basiert, können Sie Daten direkt in HealthOmics branchenübliche Tools integrieren, die Amazon S3-URIs lesen, wie z. B. die folgenden:
-
Visuelle Analyseanwendungen wie Integrative Genomics Viewer (IGV) oder UCSC Genome Browser.
-
Allgemeine Workflows mit Amazon S3-Erweiterungen wie CWL, WDL und Nextflow.
-
Jedes Tool, das Amazon S3-URIs von Access Points authentifizieren und von diesen lesen oder vorsignierte Amazon S3-URIs lesen kann.
-
Amazon S3-Dienstprogramme wie Mountpoint oder. CloudFront
Amazon S3 Mountpoint ermöglicht es Ihnen, einen Amazon S3-Bucket als lokales Dateisystem zu verwenden. Weitere Informationen zu Mountpoint und zur Installation zur Verwendung finden Sie unter Mountpoint für Amazon S3.
Amazon CloudFront ist ein Content Delivery Network (CDN) -Service, der auf hohe Leistung, Sicherheit und Komfort für Entwickler ausgelegt ist. Weitere Informationen zur Verwendung von Amazon CloudFront finden Sie in der CloudFront Amazon-Dokumentation. Um einen Sequenzspeicher einzurichten CloudFront , wenden Sie sich an das AWS HealthOmics Team.
Das Root-Konto des Datenbesitzers ist für die Aktionen S3:GetObject aktiviert und S3:List Bucket für das Sequenzspeicher-Präfix. S3:GetObjectTagging Damit ein Benutzer im Konto auf die Daten zugreifen kann, erstellen Sie eine IAM-Richtlinie und hängen sie dem Benutzer oder der Rolle an. Eine Beispielrichtlinie finden Sie unter Berechtigungen für den Datenzugriff mit Amazon S3 URIs.
Sie können die folgenden Amazon S3-API-Operationen für die aktiven Lesesätze verwenden, um Ihre Daten aufzulisten und abzurufen. Sie können über Amazon S3-URIs auf archivierte Lesesätze zugreifen, nachdem sie aktiviert wurden.
-
GetObject— Ruft ein Objekt aus Amazon S3 ab.
-
HeadObject— Die HEAD-Operation ruft Metadaten von einem Objekt ab, ohne das Objekt selbst zurückzugeben. Diese Operation ist nützlich, wenn Sie nur die Metadaten eines Objekts benötigen.
-
ListObjects und ListObject v2 — Gibt einige oder alle (bis zu 1.000) der Objekte in einem Bucket zurück.
-
CopyObject— Erstellt eine Kopie eines Objekts, das bereits in Amazon S3 gespeichert ist. HealthOmicsunterstützt das Kopieren auf einen Amazon S3-Zugangspunkt, aber nicht das Schreiben auf einen Access Point.
HealthOmics Sequenzspeicher behalten die semantische Identität von Dateien mithilfe von ETags bei. Während des gesamten Lebenszyklus einer Datei kann sich das Amazon S3-ETag, das auf einer bitweisen Identität basiert, ändern, das HealthOmics ETag bleibt jedoch dasselbe. Weitere Informationen hierzu finden Sie unter HealthOmics ETags und Datenherkunft.
Themen
Amazon S3-URI-Struktur im Speicher HealthOmics
Alle Dateien mit Amazon S3-URIs haben omics:subjectId und omics:sampleId Ressourcen-Tags. Sie können diese Tags verwenden, um den Zugriff gemeinsam zu nutzen, indem Sie IAM-Richtlinien nach einem Muster wie dem folgenden verwenden. "s3:ExistingObjectTag/omics:subjectId": "pattern desired"
Die Dateistruktur ist wie folgt:
.../account_id/sequenceStore/seq_store_id/readSet/read_set_id/files.
Bei Dateien, die aus Amazon S3 in Sequenzspeicher importiert wurden, versucht der Sequenzspeicher, den ursprünglichen Quellnamen beizubehalten. Wenn die Namen in Konflikt geraten, hängt das System Read-Set-Informationen an, um sicherzustellen, dass die Dateinamen eindeutig sind. Wenn beispielsweise bei Fastq-Lesets beide Dateinamen identisch sind, wird, um die Namen eindeutig zu machen, vor .fastq.gz oder sourceX .fq.gz eingefügt. Für einen direkten Upload folgen die Dateinamen den folgenden Mustern:
-
Für FASTQ—
read_set_name_ .fastq.gzsourcex -
uBAM/BAMFür
read_set_name/CRAM —.file extensionmit Erweiterungen von oder..bam.cramEin Beispiel istNA193948.bam.
Für Lesesätze, bei denen es sich um BAM- oder CRAM-Lesesätze handelt, werden Indexdateien während des Aufnahmevorgangs automatisch generiert. Für die generierten Indexdateien wird die richtige Indexerweiterung am Ende des Dateinamens angewendet. Es hat das Muster <name of the Source the index is on>.<file index extension>. Die Indexerweiterungen sind .bai oder.crai.
Verwenden Sie Hosted oder Local IGV für den Zugriff auf Lesesätze
IGV ist ein Genombrowser, der zur Analyse von BAM- und CRAM-Dateien verwendet wird. Er benötigt sowohl die Datei als auch den Index, da nur ein Teil des Genoms gleichzeitig angezeigt wird. IGV kann heruntergeladen und lokal verwendet werden, und es gibt Anleitungen zum Erstellen eines von AWS gehosteten IGV. Die öffentliche Webversion wird nicht unterstützt, da sie CORS benötigt.
Local IGV stützt sich auf die lokale AWS Konfiguration, um auf Dateien zuzugreifen. Stellen Sie sicher, dass an die in dieser Konfiguration verwendete Rolle eine Richtlinie angehängt ist, die die GetObject Berechtigungen kms:Decrypt und s3: für die s3-URI der Lesesätze aktiviert, auf die zugegriffen wird. Danach können Sie in IGV „Datei > Von URL laden“ verwenden und den URI für die Quelle und den Index einfügen. Alternativ können vorsignierte URLs auf dieselbe Weise generiert und verwendet werden, wodurch die AWS-Konfiguration umgangen wird. Beachten Sie, dass CORS beim Amazon S3-URI-Zugriff nicht unterstützt wird, sodass Anfragen, die auf CORS basieren, nicht unterstützt werden.
Das Beispiel AWS Hosted IGV verwendet AWS Cognito, um die richtigen Konfigurationen und Berechtigungen innerhalb der Umgebung zu erstellen. Stellen Sie sicher, dass eine Richtlinie erstellt wird, die die GetObject Berechtigungen kms:decrypt und s3: für die Amazon S3-URI der Lesesätze, auf die zugegriffen wird, aktiviert, und fügen Sie diese Richtlinie der Rolle hinzu, die dem Cognito-Benutzerpool zugewiesen ist. Danach können Sie in IGV „Datei > Von URL laden“ verwenden und die URI für die Quelle und den Index eingeben. Alternativ können vorsignierte URLs auf dieselbe Weise generiert und verwendet werden, wodurch die AWS-Konfiguration umgangen wird.
Beachten Sie, dass der Sequenzspeicher nicht auf der Registerkarte „Amazon“ angezeigt wird, da dort nur Buckets angezeigt werden, die Ihnen in der Region gehören, in der das AWS Profil konfiguriert ist.
Verwenden Sie Samtools oder HTSLib in HealthOmics
HTSLib ist die Kernbibliothek, die von mehreren Tools wie Samtools, RSAMTools und anderen gemeinsam genutzt wird. PySam Verwenden Sie HTSLib Version 1.20 oder höher, um eine nahtlose Unterstützung für Amazon S3 Access Points zu erhalten. Für ältere Versionen der HTSLib-Bibliothek können Sie die folgenden Problemumgehungen verwenden:
-
Legen Sie die Umgebungsvariable für den HTS Amazon S3-Host fest mit:.
export HTS_S3_HOST="s3.region.amazonaws.com" -
Generieren Sie eine vorsignierte URL für die Dateien, die Sie verwenden möchten. Wenn ein BAM oder CRAM verwendet wird, stellen Sie sicher, dass eine vorsignierte URL sowohl für die Datei als auch für den Index generiert wird. Danach können beide Dateien mit den Bibliotheken verwendet werden.
-
Verwenden Sie Mountpoint, um den Sequenzspeicher oder das Read-Set-Präfix in derselben Umgebung zu mounten, in der Sie HTSlib-Bibliotheken verwenden. Von hier aus kann über lokale Dateipfade auf die Dateien zugegriffen werden.
Mit Mountpoint HealthOmics
Mountpoint für Amazon S3 ist ein einfacher Dateiclient mit hohem Durchsatz zum Mounten eines Amazon S3-Buckets als lokales Dateisystem.
Mountpoint kann mithilfe der Mountpoint-Installationsanleitung installiert werden.
mount-s3access point arn--prefixlocal path to mount--regionprefix to sequence store or read setregion
Verwenden CloudFront mit HealthOmics
Amazon CloudFront ist ein Content Delivery Network (CDN) -Service, der auf hohe Leistung, Sicherheit und Komfort für Entwickler ausgelegt ist. Kunden, die ihn nutzen möchten, CloudFront müssen mit dem Serviceteam zusammenarbeiten, um den CloudFront Vertrieb einzuschalten. Arbeiten Sie mit Ihrem Account-Team zusammen, um das HealthOmics Serviceteam einzubeziehen.