Praktik terbaik kinerja untuk AWS SDK untuk .NET

Cara Anda membuat klien, menangani respons, dan mengonfigurasi aplikasi Anda memiliki efek besar pada throughput, latensi, dan penggunaan memori. Topik ini menjelaskan pola penggunaan dan konfigurasi yang membantu aplikasi Anda berjalan secara efisien dan andal. Pola-pola ini paling penting di bawah beban tinggi atau di lingkungan yang terbatas sumber daya seperti wadah dan fungsi tanpa server. Mengikuti praktik ini dapat meningkatkan kinerja dan mencegah masalah umum seperti respons lambat, hang, dan penggunaan memori yang tinggi.

Praktik yang paling berdampak adalah sebagai berikut:

Sebelum Anda mulai, pastikan Anda telah mengatur lingkungan Anda dan meng konfigurasi proyek Anda.

Gunakan kembali satu klien layanan yang berumur panjang

Layanan klien seperti Amazons3Client dan aman untuk ut AmazonDynamoDBClient as, relatif mahal untuk dibangun, dan berumur panjang. Membangun klien menyelesaikan informasi Wilayah dan titik akhir dan menetapkan infrastruktur HTTP yang mendasarinya. Buat satu klien per layanan dan gunakan kembali selama masa pakai aplikasi Anda. Jika Anda memanggil lebih dari satu Wilayah, buat klien terpisah untuk setiap Wilayah.

Dalam aplikasi yang menggunakan injeksi ketergantungan, daftarkan klien sebagai singleton. Metode AddAWSService ekstensi dari AWSSDK.Extensions.NETCore.Setup NuGet paket mendaftarkan klien dengan masa pakai defaultServiceLifetime.Singleton. Klien dibuat saat pertama kali diminta, dan instance yang sama digunakan kembali selama masa proses. Untuk informasi selengkapnya tentang mendaftar AWS kan layanan dengan injeksi ketergantungan dan opsi membaca dari konfigurasi, lihatAWSSDK.Extensions.NETCore.Setup dan IConfiguration.

Anda juga dapat mendaftarkan klien sebagai singleton secara manual.

builder.Services.AddSingleton<IAmazonS3>(_ => new AmazonS3Client());

Menggunakan kembali klien tidak berarti Anda harus berhenti membuang respons per operasi. Gunakan kembali klien selama masa pakai aplikasi, tetapi terus buang respons dan aliran yang dikembalikan oleh operasi individual, seperti yang dijelaskan dalamBuang tanggapan dan aliran.

Buang respons dan aliran untuk melepaskan koneksi

Beberapa objek respons SDK membawa aliran jaringan langsung. Contoh yang paling umum adalah GetObjectResponse, yang mengimplementasikan IDisposable dan mengekspos konten objek melalui ResponseStream propertinya. Respons menahan koneksi HTTP terbuka sampai aliran dibaca sepenuhnya atau respons dibuang. Jika Anda membocorkan respons ini (misalnya, dengan memanggil GetObject dalam satu loop tanpa membuang setiap hasil), koneksi terbuka terakumulasi hingga kumpulan koneksi habis, dan panggilan berikutnya diblokir. Ini adalah penyebab di balik laporan unduhan yang “hang secara acak” atau terhenti pada objek ke-N.

Selalu bungkus respons streaming dalam using pernyataan dan baca atau salin streamingnya segera.

using Amazon.S3;
using Amazon.S3.Model;

// s3Client is a reused, long-lived client.
var request = new GetObjectRequest { BucketName = bucketName, Key = key };

using var response = await s3Client.GetObjectAsync(request);
await response.WriteResponseStreamToFileAsync(filePath, append: false, CancellationToken.None);

Membuang respons dan membuangnya ResponseStream setara; salah satu menutup aliran jaringan yang mendasarinya dan mengembalikan koneksi ke pool.

var metadata = await s3Client.GetObjectMetadataAsync(bucketName, key);
Console.WriteLine($"Size: {metadata.ContentLength} bytes");

Gunakan async/await dengan benar

Pada .NET modern, operasi layanan di dalamnya asinkron dan mengembalikan a. AWS SDK untuk .NET Task Pada .NET Framework, metode sinkron juga ada, tetapi panggilan asinkron berskala lebih baik dan direkomendasikan. Gunakan operasi denganawait, dan async sebarkan melalui setiap lapisan kode Anda hingga titik masuk. Untuk informasi selengkapnya tentang pemrograman asinkron dengan SDK, lihat. Pemrograman asinkron

Metode berikut memblokir panggilan asinkron dan dapat menemui jalan buntu atau membuat kumpulan thread kelaparan.

// Anti-pattern: do not do this.
public GetObjectResponse Get(GetObjectRequest request)
{
    return s3Client.GetObjectAsync(request).Result;
}

Sebaliknya, buat metode async dan await panggilan.

public async Task<GetObjectResponse> GetAsync(GetObjectRequest request)
{
    return await s3Client.GetObjectAsync(request);
}

Rekomendasi tambahan untuk kode asinkron:

Konfigurasikan pengumpulan sampah .NET untuk AWS Lambda dan Amazon ECS

Ketika sebuah wadah tampaknya memiliki “kebocoran memori,” .NET sampah kolektor (GC) mungkin mempertahankan memori yang direklamasi untuk digunakan kembali. Akibatnya, memori proses dapat tampak tinggi dan stabil bahkan ketika heap yang dikelola tidak tumbuh. Selain itu, GC tidak secara otomatis mendeteksi batas memori wadah (batas cgroup-nya). Dalam lingkungan yang terbatas, tumpukan kemudian dapat tumbuh ke arah memori host daripada batas wadah. Hal ini dapat menyebabkan OutOfMemoryException atau wadah dihentikan.

Untuk membantu GC bekerja dengan baik di lingkungan terbatas:

Untuk informasi selengkapnya tentang pengaturan ini, lihat Opsi konfigurasi Runtime untuk pengumpulan sampah di learn.microsoft.com. Untuk panduan khusus untuk AWS komputasi, lihat posting Blog Alat Peng AWS embang Meng konfigurasi Pengumpulan Sampah.NET untuk Amazon ECS dan. AWS Lambda

Kelola koneksi HTTP dan batas koneksi

Di bawah throughput tinggi, dua masalah terkait koneksi umum terjadi. Yang pertama adalah membuka terlalu banyak koneksi berumur pendek. Ini menghabiskan port sementara, meninggalkan soket, dan menambahkan latensi jabat tangan TIME_WAIT TCP dan TLS. Yang kedua adalah memiliki terlalu sedikit koneksi yang tersedia, yang menghambat paralelisme. Menggunakan kembali satu klien berumur panjang (lihatGunakan kembali klien layanan) adalah dasar untuk pengumpulan koneksi yang sehat, karena pengumpulan tergantung pada klien yang digunakan kembali.

Untuk menyetel jumlah koneksi bersamaan per titik akhir, atur MaxConnectionsPerServer properti pada konfigurasi klien. Ketika properti ini adalah null (default), default yang mendasarinya HttpClientHandler berlaku, yang secara efektif tidak terbatas di.NET modern. Naikkan hanya ketika banyak permintaan bersamaan ke titik akhir yang sama mengalami hambatan pada koneksi. Titik awal yang baik adalah jumlah puncak permintaan bersamaan yang Anda harapkan per titik akhir. Mengaturnya jauh lebih tinggi dari kebutuhan beban kerja Anda membuang soket tanpa meningkatkan throughput.

using Amazon.S3;

var config = new AmazonS3Config
{
    MaxConnectionsPerServer = 50
};

var s3Client = new AmazonS3Client(config);

Jika Anda sudah menggunakan injeksi ketergantungan, konfigurasikan klien Anda melaluiAWSSDK.Extensions.NETCore.Setup. Ini adalah pendekatan yang disarankan ketika Anda menggunakan DI atau mendaftarkan beberapa klien layanan. Ini memusatkan konfigurasi dan membuat klien mudah disuntikkan dan diuji. Anda dapat mengatur nilai konfigurasi dari konfigurasi aplikasi Anda, bukan dalam kode. Untuk informasi selengkapnya, lihat AWSSDK.Extensions.NETCore.Setup dan IConfiguration.

Terakhir, ikat paralelisme Anda sendiri sehingga Anda tidak memulai lebih banyak operasi bersamaan daripada yang diizinkan batas koneksi Anda. Misalnya, panggilan gerbang dengan SemaphoreSlim ukuran batas koneksi Anda:

var throttle = new SemaphoreSlim(50); // match MaxConnectionsPerServer
await throttle.WaitAsync(token);
try
{
    await s3Client.GetObjectAsync(request, token);
}
finally
{
    throttle.Release();
}

Konfigurasikan batas waktu dan percobaan ulang

Batas waktu dan percobaan ulang memiliki efek langsung pada kinerja yang dirasakan. TimeoutNilai yang terlalu tinggi memungkinkan permintaan yang terhenti memblokir untuk waktu yang lama. Ketika layanan sudah mengembalikan kesalahan pelambatan, kebijakan coba ulang yang agresif menambahkan lebih banyak permintaan dan dapat memperburuk pelambatan. Pilih kebijakan coba ulang yang sesuai dengan toleransi aplikasi Anda untuk latensi versus kegagalan, dan biarkan pengecualian asli menyebar daripada mencoba lagi dengan cara yang menutupi hang.

Untuk informasi selengkapnya tentang mode coba lagiMaxErrorRetry,, dan Timeout properti (hanya ReadWriteTimeout berlaku untuk.NET Framework), bersama dengan contoh cara mengaturnya, lihatPercobaan ulang dan batas waktu.

Mengoptimalkan streaming dan transfer objek besar (Amazon S3)

Untuk mengunggah dan mengunduh objek besar, atau banyak objek, gunakan TransferUtility kelas di Amazon.S3.Transfer namespace. Ini mengunggah dan mengunduh secara paralel menggunakan transfer multipart, dan mengelola aliran, bagian, dan koneksi untuk Anda. Ini lebih cepat daripada transfer aliran tunggal dan merupakan cara yang disarankan untuk memindahkan objek besar.

Mendiagnosis masalah kinerja

Saat Anda menyelidiki perlambatan, hang, atau kebocoran yang tampak jelas, sinyal berikut membantu Anda menemukan penyebabnya dengan cepat: