Format liczbowy danych graficznych i obliczeń shaderów może mieć znaczący wpływ na wydajność gry.
Optymalne formaty:
- Zwiększenie wydajności wykorzystania pamięci podręcznej GPU
- zmniejszenie zużycia przepustowości pamięci, co pozwala oszczędzać energię i zwiększać wydajność;
- Maksymalizacja przepustowości obliczeniowej w programach cieniowania
- Minimalizowanie wykorzystania pamięci RAM przez grę
Formaty liczb zmiennoprzecinkowych
Większość obliczeń i danych w nowoczesnych grafikach 3D wykorzystuje liczby zmiennoprzecinkowe. Vulkan na Androidzie używa liczb zmiennoprzecinkowych o rozmaju 32 lub 16 bitów. 32-bitowa liczba zmiennoprzecinkowa jest zwykle określana jako liczba zmiennoprzecinkowa o pojedynczej precyzji lub pełnej precyzji, a 16-bitowa liczba zmiennoprzecinkowa jako liczba zmiennoprzecinkowa o połówkowej precyzji.
Vulkan definiuje 64-bitowy typ zmiennoprzecinkowy, ale nie jest on powszechnie obsługiwany przez urządzenia Vulkan na Androidzie i nie zalecamy jego używania. 64-bitowa liczba zmiennoprzecinkowa jest zwykle określana jako podwójna precyzja.
Formaty liczb całkowitych
Znakowane i bez znaku liczby całkowite są też używane do danych i obliczeń. Rozmiar standardowej liczby całkowitej to 32 bity. Obsługa innych rozmiarów bitów zależy od urządzenia. Urządzenia Vulkan z Androidem zwykle obsługują liczby całkowite 16- i 8-bitowe. Vulkan definiuje typ całkowity 64-bitowy, ale nie jest on powszechnie obsługiwany przez urządzenia Vulkan na Androidzie i nie zalecamy jego używania.
Nieoptymalne działanie w przypadku precyzji połowicznej
Nowoczesne architektury GPU łączą 2 wartości 16-bitowe w parę 32-bitową i implementują instrukcje, które działają na tej parze. Aby uzyskać optymalną wydajność, unikaj stosowania skalarnych zmiennych typu float 16-bitowego. Zamiast tego wektoryzuj dane w elementy dwu- lub czteroelementowe. Kompilator shadera może używać wartości skalarnych w operacjach wektorowych. Jeśli jednak do optymalizacji skalarów używasz kompilatora, sprawdź dane wyjściowe kompilatora, aby zweryfikować wektoryzację.
Konwertowanie na 32- i 16-bitową precyzję zmiennoprzecinkową wiąże się z kosztem obliczeniowym. Zmniejsz koszty, minimalizując dokładność konwersji w kodze.
Różnice w wydajności między 16- i 32-bitowymi wersjami algorytmów. Półpełna dokładność nie zawsze powoduje poprawę wydajności, zwłaszcza w przypadku skomplikowanych obliczeń. Algorytmy, które intensywnie korzystają z instrukcji FMA na danych wektorowych, są dobrymi kandydatami do poprawy wydajności przy połowicznej precyzji.
Obsługa formatu liczbowego
Wszystkie urządzenia Vulkan na Androidzie obsługują liczby zmiennoprzecinkowe 32-bitowe o pojedynczej precyzji i liczby całkowite 32-bitowe w obliczeniach danych i shaderów. Nie gwarantujemy obsługi innych formatów, a nawet jeśli są one obsługiwane, nie gwarantujemy obsługi wszystkich przypadków użycia.
Vulkan obsługuje 2 kategorie opcjonalnych formatów liczbowych: arytmetyczne i pamięciowe. Zanim użyjesz określonego formatu, sprawdź, czy urządzenie obsługuje go w obu kategoriach.
Obsługa funkcji arytmetycznych
Aby format liczbowy był obsługiwany w programach cieniowania, urządzenie Vulkan musi zadeklarować obsługę arytmetyki dla tego formatu. Urządzenia Vulkan na Androidzie zwykle obsługują te formaty działań arytmetycznych:
- Liczba całkowita 32-bitowa (obowiązkowa)
- 32-bitowa liczba zmiennoprzecinkowa (wymagany)
- Liczba całkowita 8-bitowa (opcjonalnie)
- Liczba całkowita 16-bitowa (opcjonalnie)
- 16-bitowa liczba zmiennoprzecinkowa o połówkowej precyzji (opcjonalnie)
Aby ustalić, czy urządzenie Vulkan obsługuje 16-bitowe liczby całkowite do wykonywania działań arytmetycznych, pobierz funkcje urządzenia, wywołując funkcję vkGetPhysicalDeviceFeatures2(), i sprawdź, czy pole shaderInt16 w strukturze wyników VkPhysicalDeviceFeatures2 ma wartość true.
Aby sprawdzić, czy urządzenie Vulkan obsługuje 16-bitowe liczby zmiennoprzecinkowe lub 8-bitowe liczby całkowite, wykonaj te czynności:
- Sprawdź, czy urządzenie obsługuje rozszerzenie Vulkana VK_KHR_shader_float16_int8. Rozszerzenie jest wymagane do obsługi 16-bitowych liczb zmiennoprzecinkowych i 8-bitowych liczb całkowitych.
- Jeśli
VK_KHR_shader_float16_int8jest obsługiwane, dodaj wskaźnik struktury VkPhysicalDeviceShaderFloat16Int8Features do łańcuchaVkPhysicalDeviceFeatures2.pNext. - Po wywołaniu
vkGetPhysicalDeviceFeatures2()sprawdź polashaderFloat16ishaderInt8w strukturze wynikówVkPhysicalDeviceShaderFloat16Int8Features. Jeśli wartość pola totrue, format jest obsługiwany w przypadku działań arytmetycznych w programie cieniowania.
Chociaż nie jest to wymagane w Vulkan 1.1 ani w profilu bazowym Androida z 2022 roku, obsługa rozszerzenia VK_KHR_shader_float16_int8 jest bardzo powszechna na urządzeniach z Androidem.
Pomoc dotycząca miejsca na dane
Urządzenie Vulkan musi deklarować obsługę opcjonalnego formatu liczbowego w przypadku określonych typów pamięci. Rozszerzenie VK_KHR_16bit_storage deklaruje obsługę 16-bitowych formatów liczb całkowitych i 16-bitowych formatów zmiennoprzecinkowych. Rozszerzenie definiuje 4 typy pamięci. Urządzenie może obsługiwać liczby 16-bitowe w przypadku żadnego, niektórych lub wszystkich typów pamięci.
Typy pamięci:
- Obiekty bufora pamięci masowej
- Jednolite obiekty bufora
- Bloki stałych wartości
- Interfejsy wejścia i wyjścia shadera
Większość urządzeń z Vulkan 1.1 na Androidzie (ale nie wszystkie) obsługuje 16-bitowe formaty w obiektach buforów pamięci masowej. Nie zakładaj, że obsługa jest dostępna na podstawie modelu GPU. Urządzenia ze starszymi sterownikami dla danego procesora graficznego mogą nie obsługiwać obiektów bufora pamięci masowej, podczas gdy urządzenia z nowszymi sterownikami mogą to robić.
Obsługa 16-bitowych formatów w buforach jednolitych, blokach stałych przesuwanych i interfejsach wejścia/wyjścia shadera zależy ogólnie od producenta procesora graficznego. Na Androidzie GPU zwykle obsługuje wszystkie 3 te typy lub żaden z nich.
Przykładowa funkcja, która testuje obsługę formatu pamięci i arytmetyki Vulkan:
struct ReducedPrecisionSupportInfo {
// Arithmetic support
bool has_8_bit_int_ = false;
bool has_16_bit_int_ = false;
bool has_16_bit_float_ = false;
// Storage support
bool has_16_bit_SSBO_ = false;
bool has_16_bit_UBO_ = false;
bool has_16_bit_push_ = false;
bool has_16_bit_input_output_ = false;
// Use 16-bit floats if we have arithmetic
// support and at least SSBO storage support.
bool use_16bit_floats_ = false;
};
void CheckFormatSupport(VkPhysicalDevice physical_device,
ReducedPrecisionSupportInfo &info) {
// Retrieve the device extension list so we
// can check for our desired extensions.
uint32_t device_extension_count;
vkEnumerateDeviceExtensionProperties(physical_device, nullptr,
&device_extension_count, nullptr);
std::vector<VkExtensionProperties> device_extensions(device_extension_count);
vkEnumerateDeviceExtensionProperties(physical_device, nullptr,
&device_extension_count, device_extensions.data());
bool has_16_8_extension = HasDeviceExtension("VK_KHR_shader_float16_int8",
device_extensions);
// Initialize the device features structure and
// chain the storage features structure and 8/16-bit
// support structure if applicable.
VkPhysicalDeviceFeatures2 device_features;
memset(&device_features, 0, sizeof(device_features));
device_features.sType = VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_FEATURES_2;
VkPhysicalDeviceShaderFloat16Int8Features f16_int8_features;
memset(&f16_int8_features, 0, sizeof(f16_int8_features));
f16_int8_features.sType =
VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_FLOAT16_INT8_FEATURES_KHR;
VkPhysicalDevice16BitStorageFeatures storage_features;
memset(&storage_features, 0, sizeof(storage_features));
storage_features.sType =
VK_STRUCTURE_TYPE_PHYSICAL_DEVICE_16BIT_STORAGE_FEATURES;
device_features.pNext = &storage_features;
if (has_16_8_extension) {
storage_features.pNext = &f16_int8_features;
}
vkGetPhysicalDeviceFeatures2(physical_device, &device_features);
// Parse the storage features and determine
// what kinds of 16-bit storage access are available.
if (storage_features.storageBuffer16BitAccess ||
storage_features.uniformAndStorageBuffer16BitAccess) {
info.has_16_bit_SSBO_ = true;
}
info.has_16_bit_UBO_ = storage_features.uniformAndStorageBuffer16BitAccess;
info.has_16_bit_push_ = storage_features.storagePushConstant16;
info.has_16_bit_input_output_ = storage_features.storageInputOutput16;
info.has_16_bit_int_ = device_features.features.shaderInt16;
if (has_16_8_extension) {
info.has_16_bit_float_ = f16_int8_features.shaderFloat16;
info.has_8_bit_int_ = f16_int8_features.shaderInt8;
}
// Get arithmetic and at least some form of storage
// support before enabling 16-bit float usage.
if (info.has_16_bit_float_ && info.has_16_bit_SSBO_) {
info.use_16bit_floats_ = true;
}
}
Poziom dokładności danych
Liczba zmiennoprzecinkowa o półprecyzyjnej reprezentacji może reprezentować mniejszy zakres wartości przy niższej dokładności niż liczba zmiennoprzecinkowa o pełnej precyzji. Precyzja połowi bitu jest często prostszym i mniej wyczuwalnym rozwiązaniem niż precyzja pojedynczego bitu. Jednak w niektórych przypadkach większa precyzja może nie być praktyczna. W przypadku niektórych typów danych zmniejszony zakres i precyzja mogą powodować artefakty graficzne lub nieprawidłowe renderowanie.
Typy danych, które nadają się do reprezentacji w postaci liczby zmiennoprzecinkowej o półprecyzji, to m.in.:
- dane o pozycji w współrzędnych przestrzeni lokalnej,
- UV tekstury dla mniejszych tekstur z ograniczonym owijaniem UV, które może być ograniczone do zakresu współrzędnych od -1,0 do 1,0
- Dane o normalnej, stycznej i binormalnej
- Dane o kolorze wierzchołka
- Dane z niskimi wymaganiami dotyczącymi dokładności skupione wokół 0,0
Typy danych, które nie są zalecane do reprezentacji w postaci liczby zmiennoprzecinkowej o półpełnej precyzji:
- dane o pozycji w globalnych współrzędnych świata;
- UV tekstury do zastosowań wymagających dużej precyzji, takich jak współrzędne elementów interfejsu użytkownika w arkuszu atlasu
Dokładność w kodzie shadera
Języki programowania shaderów OpenGL Shading Language (GLSL) i High-level Shader Language (HLSL) obsługują specyfikację zrelaksowanej precyzji lub jawnej precyzji typów liczbowych. Zrelaksowana dokładność jest traktowana jako rekomendacja dla kompilatora shadera. Wyrażona precyzja jest wymagana w przypadku określonej precyzji. Urządzenia Vulkan na Androidzie zazwyczaj używają formatów 16-bitowych, gdy sugeruje to zrelaksowana dokładność. Inne urządzenia Vulkan, zwłaszcza komputery stacjonarne z kartą graficzną, która nie obsługuje formatów 16-bitowych, mogą zignorować zrelaksowaną precyzję i nadal używać formatów 32-bitowych.
Rozszerzenia pamięci w GLSL
Aby umożliwić obsługę 16- i 18-bitowych formatów liczbowych w strukturach pamięci i buforów jednolitych, należy zdefiniować odpowiednie rozszerzenia GLSL. Odpowiednie deklaracje rozszerzeń to:
// Enable 16-bit formats in storage and uniform buffers.
#extension GL_EXT_shader_16bit_storage : require
// Enable 8-bit formats in storage and uniform buffers.
#extension GL_EXT_shader_8bit_storage : require
Te rozszerzenia są specyficzne dla GLSL i nie mają odpowiedników w HLSL.
Zmniejszona dokładność w GLSL
Użyj przed typem zmiennoprzecinkowym prefiksu highp, aby zasugerować zmiennoprzecinkową precyzję pojedynczą, oraz prefiksu mediump, aby zasugerować zmiennoprzecinkową precyzję podwójną.
Kompilatory GLSL dla Vulkana interpretują stary ogranicznik lowp jako mediump.
Przykłady z mniejszą dokładnością:
mediump vec4 my_vector; // Suggest 16-bit half precision
highp mat4 my_matrix; // Suggest 32-bit single precision
Wyrażona precyzja w GLSL
Umieść rozszerzenie GL_EXT_shader_explicit_arithmetic_types_float16 w kodzie GLSL, aby umożliwić używanie 16-bitowych typów zmiennoprzecinkowych:
#extension GL_EXT_shader_explicit_arithmetic_types_float16 : require
Deklaruj 16-bitowe typy skalarne, wektory i macierze zmiennoprzecinkowe w GLSL za pomocą tych słów kluczowych:
float16_t f16vec2 f16vec3 f16vec4
f16mat2 f16mat3 f16mat4
f16mat2x2 f16mat2x3 f16mat2x4
f16mat3x2 f16mat3x3 f16mat3x4
f16mat4x2 f16mat4x3 f16mat4x4
W GLSL zadeklaruj 16-bitowe typy skalarne i wektory liczb całkowitych, używając tych kluczowych słów:
int16_t i16vec2 i16vec3 i16vec4
uint16_t u16vec2 u16vec3 u16vec4
Zmniejszona dokładność w HLSL
HLSL używa terminu minimalna dokładność zamiast zrelaksowanej dokładności. Słowo kluczowe typu minimalna precyzja określa minimalną dokładność, ale kompilator może zastąpić ją większą dokładnością, jeśli będzie ona lepsza dla docelowego sprzętu. Słowo kluczowe min16float określa minimalną dokładność 16-bitowej liczby zmiennoprzecinkowej. Minimalna dokładność liczb całkowitych 16-bitowych ze znakiem i bez znaku jest określana odpowiednio przez słowa kluczowe min16int i min16uint. Dodatkowe przykłady deklaracji minimalnej precyzji:
// Four element vector and four-by-four matrix types
min16float4 my_vector4;
min16float4x4 my_matrix4x4;
Dokładność w HLSL
Wykładniczy zmiennoprzecinkowy o półprecyzji jest określony przez słowa kluczowe half lub float16_t. Znaki całkowite 16-bitowe ze znakiem i bez znaku są określane odpowiednio za pomocą słów kluczowych int16_t i uint16_t. Dodatkowe przykłady deklaracji dokładności:
// Four element vector and four-by-four matrix types
half4 my_vector4;
half4x4 my_matrix4x4;