kan ik een PCIe 3.0 videokaart gebruiken op een moederbord met PCIe 16x?

Ja dat kan. Zonder noemenswaardige problemen.

Je moederbord heeft 2 x PCIe 2.0 x16 sloten https://www.asus.com/nl/Motherboards/MAXIMUS_II_FORMULA/specifications/
Je kaart is PCIe 3.0 x16. Dat kan omdat PCIe "backwards EN forwards compatible is" dus een oude kaart kan in een nieuwer slot EN een nieuwere kaart kan ook in een ouder slot.

Enige probleem is de tegenvallende prestaties omdat je CPU je GPU niet voldoende kan voorzien van data. Ik heb mijn GTX 1060 een keer voor de grap in mijn Core 2 Duo gestopt en dat werkte perfect, maar Overwatch was niet speelbaar. En dan niet eens op de laagste settings.

Je upgrade moet je dus zien als tussenstap, en dan zou ik zeggen dat je juist beter eerst een nieuw mobo+CPU+RAM kan kopen en na die stap de betere GPU (in jouw specifieke geval). In CPU's zit namelijk amper vooruitgang meer de laatste 8 jaar (Core i5/i7 tijdperk) als het gaat om gameprestaties. GPU's zijn nu extra duur door mining dus hopelijk is die gekte dan ook gezakt (met de prijs).