hoe aantal cijfers achter de komma aanpassen van een cel vanuit het werkblad zelf?

[Petrusjaja]

Die technische uitleg is wel aardig, maar brengt mij (en ik vrees ook andere lezers) niet verder bij het beantwoorden van de vraag.

Reageer op de vragen en antwoorden a.u.b. !

Plongske vroeg wat er mis is met de celeigenschappen instellen op 0,0000 .

Jij antwoordde: "daar zet excel dan een 0 bij en dat zal ik zien als 12,345" .

Dat is niet juist, als de celeigenschappen staan ingesteld op 4 decimalen, dan blijft dat in Excel 12,345 .

dze vraag blijft dan ook waj je precies wenst.

Zoals ik het nu begrijp moet er als resultaat altijd een waarde komen die uit 5 cijfers bestaat. Dat houdt dan in dat als de oorspronkelijke waarde minder dan 5 cijfers bevat, dat er dan nullen moeten worden toegevoegd. Is dat een juiste veronderstelling?

 

wat ik wil zien als ik meet met een DMM van 5 digits is 5 cijfers. niet meer en niet minder.

[Petrusjaja]

dat instellen van 0,0000 in excel displayed altijd 4 cijfers achter  de komma. Dan verzint Excel die 0 achter 12,345 erbij en toont 12,3450 om maar 4 cijfers achter de komma te kunnen zetten. Die laatste 0 is het 6e cijfer en mag niet getoond worden

[plongske]

Worden deze cijfers wat je ziet dan automtisch ingebracht in Excel of doe je dit manueel?

[alpha]

Welke waarden in de sheet moeten nu eigenlijk aangepast worden, er staan er zo veel ?

[Petrusjaja]

alle witte en gele velden met getallen waarin 5 cijfers staan moeten nu met de hand vast ingesteld worden op het juiste aantal cijfers achter de komma: dus de meetwaarden en de absolute fouten: al die velden zijn 5 digits (bij een 5 3/4 DMM dus soms 6, als het meest linkse cijfer een 1 of een 2 is).

 

NB: in een van de tabbladen staat de volledige meterspecificatie per bereik, van de gebruikte DMM.

25 september 2015 aangepast door Petrusjaja

[Petrusjaja]

Worden deze cijfers wat je ziet dan automtisch ingebracht in Excel of doe je dit manueel?

de waarden voor de fouten wordt nu nog met de hand overgenomen uit de tabel van de DMM. Dat moet ik nog automatiseren. Dat ga ik pas doen als ik het huidige probleem heb opgelost van die zwevende komma, dus waar we nu over praten. Uiteraard moet ook de meetwaarde zelf ingevoerd worden (dat staat bij 'reading')

25 september 2015 aangepast door Petrusjaja

[alpha]

De waarden in kolom C die geel gekleurd zijn en die niet gekleurd zijn?

[plongske]

Dus gaat het volgens mij enkel om het visuele aspect.

als je kijkt naar de cel C10 dez wordt manueel ingevuld  met  19,051

alhoewel de weergave ( door de celeigenschappen met 4 cijfers na de comma te plaatsen) en dus 19,0510 toont.

zal excel toch zijn berekeningen maken met getal 19,051

dit getal kan je terugvinden in de formulebalk.

25 september 2015 aangepast door plongske

[Petrusjaja]

cel c10 heeft op de DMM met 6 cijfers gestaan als 19,0510 omdat het eerste cijfers links een 1 is, dan zal dit type DMM 6 cijfers tonen. Dat de achterste 0 niet in excel staat is niet erg, de waarde is intern in Excel hetzelfde. Maar display van het getal moet wel die 0 tonen op het eind omdat dat aangeeft dat de resolutie van de meting 0,0001V is zoals ook bij LSD gewicht al is aangegeven.

 

Kijk je bijvoorbeeld naar cel e10, dan kunnen en zullen door de berekeningen daar wel meer dan 4 decimalen achter de komma staan. In dit geval staat er 0,0058102 Dit wordt met afronden naar boven weer teruggebracht naar 4 decimalen achter de komma tot 0,0059 . Afronden naar boven moet hier omdat het om foutafschatting gaat, en dan moet je naar boven afronden. De werkelijke absolute fout ligt dan altijd onder die waarde met 4 decimalen. Die waarde van 4 decimalen bij het afronden is berekend in een andere cel. Het is deze waarde van 4 die ik ook zou willen gebruiken voor de weergave van het aantal decimalen in die cellen met absolute fouten. Dat moet nu met de hand ingesteld worden.

 

In ieder geval bedankt voor het meedenken. Ik stop er voor vandaag even mee.

25 september 2015 aangepast door Petrusjaja

[Petrusjaja]

Dus gaat het volgens mij enkel om het visuele aspect.

als je kijkt naar de cel C10 dez wordt manueel ingevuld  met  19,051

alhoewel de weergave ( door de celeigenschappen met 4 cijfers na de comma te plaatsen) en dus 19,0510 toont.

zal excel toch zijn berekeningen maken met getal 19,051

dit getal kan je terugvinden in de formulebalk.

ja, klopt, had ik ook op gerekend. dus die 0 hoef ik niet in te voeren. Excel rekent met veel hogere precisie, ca. 15 cijfers achter de komma. Ik weet dat als ik die nul niet invoer, ik daar geen last mee krijg en de juiste waarde gebruikt wordt voor de berekeningen. De nauwkeurigheden van de metingen waar ik hier in Excel mee werk zullen dus nooit last krijgen van de resolutie waarmee excel zelf intern werkt. 

 

zie hier meer details over hoe dat in excel zelf gaat:

url(20150925_2333) http://www.cpearson.com/excel/rounding.htm

25 september 2015 aangepast door Petrusjaja