Hvis du nogensinde har lyttet til digital musik - især enhver form for tapy lydformat - så har du været udsat for matematisk kvantisering Denne digitale signalbehandling bag scenen er ganske almindelig og oftest en integreret funktion af moderne lydsoftware eller hardware (f.eks. digital-til-analog-konvertere). Men kvantisering er ikke begrænset til bare lyd. Udtrykket og dets anvendelser gælder også for andre felter, såsom fysik eller digital billeddannelse.
I et optagestudie optager mikrofoner analoge lydbølger, som derefter behandles til et digitalt format. Signalet kan samples ved 44,100 Hz og kvantiseres med 8-, 16- eller 24-bit dybde (og så videre). Højere bitdybder giver flere data, hvilket muliggør mere præcis konvertering og gengivelse af den oprindelige bølgeform.
Fundamentalt er kvantisering en kompleks proces med afrunding, der indebærer en vis grad af upræcision. Computere opererer på dem og nuller, hvorfor analog-til-digital konvertering betragtes som en nær tilnærmelse og ikke en nøjagtig kopi. Når det kommer til musik, skal det kvantiserede signal ikke kun opretholde korrekt rækkefølge og amplitude af værdier, men timingen skal også være præcis. Processen skal sikre, at musikalytrytmen opretholdes, med noter fordelt jævnt og sat på de samme beats (eller fraktioner deraf). Ellers kan lyden ende med at lyde ud eller mærkeligt til lytende ører.
Dette kvantiseringskoncept kan observeres visuelt med et billedredigeringsprogram, som f.eks. Photoshop. Når et stort billede er reduceret i størrelse, er der tab af pixelinformation på grund af den matematiske proces, der håndterer opgaven. Softwaren udfører beregningerne og afrundingen for at afskaffe uønskede pixels, samtidig med at den samlede integritet, forhold og kontekst for billedet bevares - begrænsede proportioner er lige så kritiske for billeder som rytmen er til musik. Når du zoomer ind og sammenligner den nyformede version af billedet til originalen, har du tendens til at vise kanter og objekter noget groft eller skævt. Dette visuelle aspekt af lossy-kompression vedrører også typer af digitale lydfiler. Flere data og / eller mindre komprimering resulterer i højere samlet kvalitet.
