In addition to the existing (more technical) answers, I'd like to elaborate what was already mentioned in the answer by nvoigt: For spoken language, the emphasis of the words plays an even greater role than the word order. It's hard to define any rules here. I'll try to make up some examples based on the sentence in your question. The differences in the meaning seem to be "intuitive" for me, although others might disagree to some extent.

Imagine someone asked you to buy him a car.

Er fragte mich, ob ich ihm ein Auto kaufen könnte.

In the following statements, different emphasis (indicated by bold words) may carry different meanings:

Das konnte ich nicht tun. Aber ich kaufte ihm ein Fahrrad.

You could not do exactly that, but maybe something similar.

Das konnte ich nicht tun. Aber als ich die Gründe nannte, verstand er sie.

You probably wanted to do it, but simply had not been able to do it.

Das konnte ich nicht tun. Aber sein Vater konnte ihm eins kaufen.

You could not do it, but probably someone else.

Das konnte ich nicht tun. Aber ich konnte ihm mein Auto leihen.

Similar to the first one (maybe without an alternative)

In written language, different word orders may carry differences in the meaning that are similarly subtle as the emphasis in spoken language. Actually, I just tried to permute the words from your statement, and came up with this list, which I (as a native speaker) would consider as (at least loosely) grammatically correct:

• Das konnte ich nicht tun.
• Ich konnte das nicht tun (, aber jemand anderes)
• Ich konnte nicht das tun (, aber etwas anderes)
• Nicht das konnte ich tun (, aber etwas anderes)
• Tun konnte ich das nicht (, aber ich konnte es versuchen)
• Konnte ich das nicht tun?
• Konnte ich nicht das tun?

_{An aside: Negations, as the "nicht" in this example, always bear the potential for ambiguities. May favorite example is the famous saying "Glauben heißt nicht wissen". Interpreted as "'Glauben' heißt 'nicht wissen'", it is wrong. Interpreted as "'Glauben' heißt nicht 'wissen'", it is correct...}

In addition to the existing (more technical) answers, I'd like to elaborate what was already mentioned in the answer by nvoigt: For spoken language, the emphasis of the words plays an even greater role than the word order. It's hard to define any rules here. I'll try to make up some examples based on the sentence in your question. The differences in the meaning seem to be "intuitive" for me, although others might disagree to some extent.

Imagine someone asked you to buy him a car.

Er fragte mich, ob ich ihm ein Auto kaufen könnte.

In the following statements, different emphasis (indicated by bold words) may carry different meanings:

Das konnte ich nicht tun. Aber ich kaufte ihm ein Fahrrad.

You could not do exactly that, but maybe something similar.

Das konnte ich nicht tun. Aber als ich die Gründe nannte, verstand er sie.

You probably wanted to do it, but simply had not been able to do it.

Das konnte ich nicht tun. Aber sein Vater konnte ihm eins kaufen.

You could not do it, but probably someone else.

Das konnte ich nicht tun. Aber ich konnte ihm mein Auto leihen.

Similar to the first one (maybe without an alternative)

In written language, different word orders may carry differences in the meaning that are similarly subtle as the emphasis in spoken language. Actually, I just tried to permute the words from your statement, and came up with this list, which I (as a native speaker) would consider as (at least loosely) grammatically correct:

• Das konnte ich nicht tun.
• Ich konnte das nicht tun (, aber jemand anderes)
• Ich konnte nicht das tun (, aber etwas anderes)
• Nicht das konnte ich tun (, aber etwas anderes)
• Tun konnte ich das nicht (, aber ich konnte es versuchen)
• Konnte ich das nicht tun?
• Konnte ich nicht das tun?

_{An aside: Negations, as the "nicht" in this example, always bear the potential for ambiguities. My favorite example is the famous saying "Glauben heißt nicht wissen". Interpreted as "'Glauben' heißt 'nicht wissen'", it is wrong. Interpreted as "'Glauben' heißt nicht 'wissen'", it is correct...}